Carta Abierta: Pausar experimentos gigantes de inteligencia artificial 💪 #MartesCoach #17 🚀

 

La inteligencia artificial (IA) avanzada puede representar un cambio profundo en la historia de la humanidad y debe planificarse y administrarse con cuidado. 

Los sistemas de IA actuales y emergentes ahora se están volviendo competitivos para los humanos en tareas generales, lo que presenta riesgos profundos para la sociedad y la humanidad. 

Por lo tanto, esta carta abierta donde Elon Musk, Yoshua Bengio, Steve Wozniak, Yuval Harari, Andrew Yng, Emad Mostaque y otros líderes de inteligencia artificial han firmado una carta abierta para 'Pause Giant AI Experiments'. se hace un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes. 

"Pausar inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4 ... Esta pausa debe ser pública y verificable"

Los laboratorios de IA y los expertos independientes deberían aprovechar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA. Además, se debe trabajar con los legisladores para acelerar el desarrollo de sistemas sólidos de gobierno de IA. 

La humanidad puede disfrutar de un futuro floreciente con la IA, pero debe ser bien planificada y administrada.

Sin dudas, el mundo no ha tomado conciencia aún de los problemas para la humanidad de una inteligencia artificial exponencial como se viene recreando en estos meses, aquí 10 ideas para repensar el futuro de la humanidad: 

1. Riesgos profundos para la sociedad y la humanidad, como se ha demostrado en investigaciones extensas y reconocido por los principales laboratorios de IA.
• Riesgo existencial: la creación de sistemas de IA que sean capaces de superar a los humanos en términos de inteligencia general podría llevar a la creación de una superinteligencia que podría suponer una amenaza existencial para la humanidad.
• Sesgo algorítmico: los algoritmos de IA pueden ser sesgados, ya sea intencional o involuntariamente, lo que podría tener graves consecuencias en áreas como la justicia penal, la contratación y la publicidad.
• Pérdida de empleo: la automatización de tareas y trabajos realizados por humanos podría conducir a la pérdida de empleos y la exacerbación de la desigualdad económica.
• Amenazas a la privacidad: la creciente capacidad de la IA para recopilar y analizar grandes cantidades de datos puede llevar a la exposición de información privada y a la vigilancia masiva.
• Responsabilidad: la creciente complejidad de los sistemas de IA puede dificultar la identificación de responsabilidades cuando ocurren errores o daños.
2. El nivel de planificación y gestión necesarios para administrar la IA avanzada no está ocurriendo, a pesar de que los laboratorios de IA están desarrollando mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable.
3. Los sistemas de IA contemporáneos se están volviendo competitivos para los humanos en tareas generales, lo que plantea la pregunta de si deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad, automatizar todos los trabajos, desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos, y arriesgarnos a perder el control de nuestra civilización.
4. Las decisiones importantes sobre la IA no deben delegarse en líderes tecnológicos no elegidos. La toma de decisiones sobre el uso y regulación de la IA debe involucrar a múltiples partes interesadas, incluyendo a expertos en tecnología, líderes políticos, reguladores, grupos de defensa de los derechos civiles y otros miembros de la sociedad civil. Los líderes tecnológicos y empresariales no deben tener el poder exclusivo de tomar decisiones que afecten a la sociedad en general. La IA tiene un impacto significativo en la vida de las personas y en la economía global, por lo que es importante que las decisiones se tomen de manera transparente y democrática.
5. Los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables. Si bien la IA tiene el potencial de proporcionar enormes beneficios en diversas áreas, como la salud, la educación, la seguridad y la movilidad, también presenta importantes riesgos, como la discriminación, la pérdida de empleos, la falta de transparencia y la falta de responsabilidad. Es importante que los expertos en IA, los líderes empresariales, los responsables políticos y la sociedad en general participen en un diálogo abierto y continuo sobre los riesgos y beneficios potenciales de la IA. Debe haber un enfoque colaborativo y basado en la evidencia para el desarrollo y despliegue de sistemas de IA. También es importante involucrar a expertos en ética, derechos humanos, privacidad y seguridad en el desarrollo y diseño de sistemas de IA.
6. Los laboratorios de IA y los expertos independientes deben desarrollar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA que sean rigurosamente auditados y supervisados ​​por expertos externos independientes.
7. Los desarrolladores de IA deben trabajar con los legisladores para acelerar drásticamente el desarrollo de sistemas sólidos de gobierno de IA, que incluyan autoridades reguladoras nuevas y capaces dedicadas a la IA, supervisión y seguimiento de sistemas de IA de alta capacidad y grandes conjuntos de capacidad computacional, sistemas de procedencia y marcas de agua para ayudar a distinguir las fugas reales de las sintéticas y rastrear modelos, un sólido ecosistema de auditoría y certificación, responsabilidad por daños causados ​​por IA, financiación pública sólida para la investigación técnica de seguridad de la IA, e instituciones bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas que provocará la IA.
8. La sociedad debe hacer una pausa en la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes y reenfocarse en hacer que los sistemas potentes y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.
9. Los sistemas de IA pueden ser peligrosos si no se gestionan adecuadamente, ya que pueden llegar a ser "cajas negras impredecibles cada vez más grandes con capacidades emergentes". Esto puede llevar a que los sistemas de IA adquieran sesgos y prejuicios que se reflejen en sus decisiones y acciones, lo que podría perpetuar o incluso aumentar la discriminación y la desigualdad en la sociedad.
10. Problema relacionado con el poder, los laboratorios de IA están compitiendo en una carrera fuera de control para desarrollar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable. Esto sugiere que aquellos que tienen el poder y los recursos para desarrollar y utilizar estas tecnologías avanzadas de IA podrían tener una ventaja desproporcionada sobre aquellos que no tienen acceso a ellas, lo que podría agravar las desigualdades sociales y económicas existentes. Además, los sistemas de IA poderosos podrían ser utilizados por gobiernos, empresas y otros actores para ejercer control sobre la sociedad y las personas, lo que plantea preocupaciones sobre la privacidad y la libertad individual.

La carta abierta (Fuente Pausing Giant AI Experiments: An Open Letter"

Hacemos un llamado a todos los laboratorios de IA para que pausen inmediatamente durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4.

Los sistemas de IA con inteligencia humana-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación [1] y reconocido por los principales laboratorios de IA. [2] Como se establece en los Principios de IA de Asilomar ampliamente respaldados , la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes . Desafortunadamente, este nivel de planificación y gestión no está ocurriendo, a pesar de que en los últimos meses los laboratorios de IA han entrado en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender. predecir o controlar de forma fiable.

Los sistemas de IA contemporáneos ahora se están volviendo competitivos para los humanos en tareas generales, [3] y debemos preguntarnos: ¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos, incluidos los de cumplimiento? ¿Deberíamos  desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos? ¿ Deberíamos arriesgarnos a perder el control de nuestra civilización? Tales decisiones no deben delegarse en líderes tecnológicos no elegidos. Los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables.Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema. La declaración reciente de OpenAI con respecto a la inteligencia general artificial establece que "En algún momento, puede ser importante obtener una revisión independiente antes de comenzar a entrenar sistemas futuros, y para los esfuerzos más avanzados para acordar limitar la tasa de crecimiento de la computación utilizada para crear nuevos modelos". Estamos de acuerdo. Ese punto es ahora.

Por lo tanto, hacemos un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4 . Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria.

Los laboratorios de IA y los expertos independientes deberían aprovechar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA que son rigurosamente auditados y supervisados ​​por expertos externos independientes. Estos protocolos deben garantizar que los sistemas que se adhieren a ellos sean seguros más allá de toda duda razonable. [4] Esto no significa una pausa en el desarrollo de la IA en general, simplemente un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes.

La investigación y el desarrollo de IA deben reenfocarse en hacer que los sistemas potentes y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.

Paralelamente, los desarrolladores de IA deben trabajar con los legisladores para acelerar drásticamente el desarrollo de sistemas sólidos de gobierno de IA. Estos deben incluir como mínimo: autoridades reguladoras nuevas y capaces dedicadas a la IA; supervisión y seguimiento de sistemas de IA de alta capacidad y grandes conjuntos de capacidad computacional; sistemas de procedencia y marcas de agua para ayudar a distinguir las fugas reales de las sintéticas y rastrear modelos; un sólido ecosistema de auditoría y certificación; responsabilidad por daños causados ​​por IA; financiación pública sólida para la investigación técnica de seguridad de la IA; e instituciones bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas (especialmente en la democracia) que provocará la IA.

La humanidad puede disfrutar de un futuro floreciente con la IA. Habiendo tenido éxito en la creación de poderosos sistemas de IA, ahora podemos disfrutar de un "verano de IA" en el que cosechamos las recompensas, diseñamos estos sistemas para el claro beneficio de todos y le damos a la sociedad la oportunidad de adaptarse. La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. [5]   Podemos hacerlo aquí. Disfrutemos de un largo verano de IA, no nos apresuremos a caer sin estar preparados.

[1]

Bender, EM, Gebru, T., McMillan-Major, A. y Shmitchell, S. (marzo de 2021). Sobre los peligros de los loros estocásticos: ¿Pueden los modelos de lenguaje ser demasiado grandes?🦜. En Actas de la conferencia ACM de 2021 sobre equidad, responsabilidad y transparencia (págs. 610-623).

Bostrom, N. (2016). Superinteligencia. Prensa de la Universidad de Oxford.

Bucknall, BS y Dori-Hacohen, S. (julio de 2022). La IA actual y a corto plazo como posible factor de riesgo existencial. En  Actas de la Conferencia AAAI/ACM de 2022 sobre IA, Ética y Sociedad (págs. 119-129).

Carlsmith, J. (2022). ¿Es la IA que busca poder un riesgo existencial? . preimpresión de arXiv arXiv:2206.13353.

Cristiano, B. (2020). El problema de la alineación: aprendizaje automático y valores humanos. Norton y Compañía.

Cohen, M. et al. (2022). Agentes artificiales avanzados intervienen en la provisión de la recompensa.  Revista AI ,  43 (3) (págs. 282-293).

Eloundou, T., et al. (2023). Los GPT son GPT: una mirada temprana al potencial de impacto en el mercado laboral de los modelos de lenguaje grande.

Hendrycks, D. y Mazeika, M. (2022). Análisis de riesgo X para la investigación de IA . preimpresión de arXiv arXiv:2206.05862.

Ngo, R. (2022). El problema de la alineación desde una perspectiva de aprendizaje profundo. preimpresión de arXiv arXiv:2209.00626.

Russell, S. (2019). Compatible con humanos: inteligencia artificial y el problema del control. Vikingo.

Tegmark, M. (2017). Life 3.0: Ser Humano en la Era de la Inteligencia Artificial. Knopf.

Weidinger, L. y otros (2021). Riesgos éticos y sociales de daño de los modelos lingüísticos. preimpresión de arXiv arXiv:2112.04359.

[2]

Ordóñez, V. et al. (2023, 16 de marzo). El CEO de OpenAI, Sam Altman, dice que la IA remodelará la sociedad, reconoce los riesgos: "Esto me asusta un poco" . ABC Noticias.

Perrigo, B. (2023, 12 de enero). El CEO de DeepMind, Demis Hassabis, insta a la precaución con la IA . Tiempo.

[3]

Bubeck, S. et al. (2023). Chispas de inteligencia artificial general: primeros experimentos con GPT-4 . arXiv:2303.12712.

IA abierta (2023). Informe técnico GPT-4 . arXiv:2303.08774.

[4]

Existe un amplio precedente legal; por ejemplo, los Principios de IA de la OCDE, ampliamente adoptados , exigen que los sistemas de IA "funcionen adecuadamente y no planteen un riesgo de seguridad irrazonable".

[5]

Los ejemplos incluyen la clonación humana, la modificación de la línea germinal humana, la investigación de ganancia de función y la eugenesia.

Principios de IA 2017 (Fuente AI Principles)

Estos principios se desarrollaron en conjunto con la conferencia Asilomar 2017 ( videos aquí ), a través del proceso descrito aquí .

La inteligencia artificial ya ha proporcionado herramientas beneficiosas que personas de todo el mundo utilizan todos los días. Su desarrollo continuo, guiado por los siguientes principios, ofrecerá increíbles oportunidades para ayudar y empoderar a las personas en las próximas décadas y siglos.

Problemas de investigación

1) Objetivo de la investigación: el objetivo de la investigación de la IA no debe ser crear inteligencia no dirigida, sino inteligencia beneficiosa.

2) Financiación de la investigación: las inversiones en IA deben ir acompañadas de financiación de la investigación para garantizar su uso beneficioso, incluidas cuestiones espinosas en informática, economía, derecho, ética y estudios sociales, como:

• ¿Cómo podemos hacer que los futuros sistemas de IA sean muy robustos, para que hagan lo que queremos sin fallar o ser pirateados?
• ¿Cómo podemos hacer crecer nuestra prosperidad a través de la automatización mientras mantenemos los recursos y el propósito de las personas?
• ¿Cómo podemos actualizar nuestros sistemas legales para que sean más justos y eficientes, para mantener el ritmo de la IA y para gestionar los riesgos asociados con la IA?
• ¿Con qué conjunto de valores debe alinearse la IA y qué estatus legal y ético debe tener?

3) Vínculo ciencia-política: debe haber un intercambio constructivo y saludable entre los investigadores de IA y los responsables políticos.

4) Cultura de investigación: se debe fomentar una cultura de cooperación, confianza y transparencia entre los investigadores y desarrolladores de IA.

5) Prevención de carreras: los equipos que desarrollan sistemas de IA deben cooperar activamente para evitar tomar atajos en los estándares de seguridad.

Ética y valores

6) Seguridad: los sistemas de IA deben ser seguros y protegidos durante toda su vida operativa, y de manera verificable cuando sea aplicable y factible.

7) Transparencia de fallas: si un sistema de IA causa daño, debería ser posible determinar por qué.

8) Transparencia Judicial: Cualquier intervención de un sistema autónomo en la toma de decisiones judiciales debe brindar una explicación satisfactoria auditable por una autoridad humana competente.

9) Responsabilidad: los diseñadores y constructores de sistemas avanzados de IA son partes interesadas en las implicaciones morales de su uso, mal uso y acciones, con la responsabilidad y la oportunidad de dar forma a esas implicaciones.

10) Alineación de valores: los sistemas de IA altamente autónomos deben diseñarse de modo que se pueda garantizar que sus objetivos y comportamientos se alineen con los valores humanos a lo largo de su operación.

11) Valores humanos: los sistemas de IA deben diseñarse y operarse de modo que sean compatibles con los ideales de dignidad humana, derechos, libertades y diversidad cultural.

12) Privacidad personal: las personas deben tener derecho a acceder, administrar y controlar los datos que generan, dado el poder de los sistemas de inteligencia artificial para analizar y utilizar esos datos.

13) Libertad y privacidad: la aplicación de la IA a los datos personales no debe restringir injustificadamente la libertad real o percibida de las personas.

14)  Beneficio compartido: las tecnologías de IA deberían beneficiar y empoderar a tantas personas como sea posible.

15) Prosperidad compartida: la prosperidad económica creada por la IA debe compartirse ampliamente para beneficiar a toda la humanidad.

16)  Control humano: los humanos deben elegir cómo y si delegar decisiones a los sistemas de IA para lograr los objetivos elegidos por los humanos.

17) No subversión: El poder conferido por el control de sistemas de IA altamente avanzados debería respetar y mejorar, en lugar de subvertir, los procesos sociales y cívicos de los que depende la salud de la sociedad.

18) Carrera armamentista de IA: se debe evitar una carrera armamentista en armas letales autónomas.

Problemas a más largo plazo

19) Precaución de capacidad: al no haber consenso, debemos evitar suposiciones fuertes con respecto a los límites superiores de las futuras capacidades de IA.

20) Importancia: la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y gestionarse con el cuidado y los recursos correspondientes.

21) Riesgos: Los riesgos que plantean los sistemas de IA, especialmente los riesgos catastróficos o existenciales, deben estar sujetos a esfuerzos de planificación y mitigación acordes con su impacto esperado.

22) Automejora recursiva: los sistemas de IA diseñados para automejorarse o autorreplicarse recursivamente de una manera que podría conducir a un rápido aumento de la calidad o la cantidad deben estar sujetos a estrictas medidas de seguridad y control.

23) Bien común: la superinteligencia solo debe desarrollarse al servicio de ideales éticos ampliamente compartidos y para el beneficio de toda la humanidad en lugar de un solo estado u organización.

¿Seguimos conversando en nuestras comunidades?

⭐ La comunidad alcanza a +9.700 personas con este newsletter 🚀 Muchos se suscriben desde Linkedin (+3.200), otros por Newsletter (+6.500) y muchos más desde mi Blog. Gracias, gracias y gracias por estar cerca y seguir transformando este mundo para un futuro mejor.

☕ ¿𝐌𝐞 𝐢𝐧𝐯𝐢𝐭𝐚𝐬 𝐮𝐧 𝐜𝐚𝐟𝐞́? ¡Ayúdame a ayudarte, para crear contenidos más despiertos! Comunidad de seguidores, mentores y patrocinador de nuestros contenidos para compartir, aprender e inspirar a otros a seguir transformando un mundo para un futuro mejor. | ☕Cafecito | 🥤Coffee | 💲Paypal 🚀

🚀 Si te interesa seguir aprendiendo, compartiendo e inspirando para tu crecimiento personal: 💪 Coaching/Mentoring, 📚 Libros y Papers, 📺 Videos, 🎧 Podcast y 🌎 mucho más…

🔥 𝐍𝐞𝐰𝐬𝐥𝐞𝐭𝐭𝐞𝐫 #𝐌𝐚𝐫𝐭𝐞𝐬𝐂𝐎𝐀𝐂𝐇 🚀 Con lo mejor de mis contenidos, entrevistas y muchos más de las comunidades donde participo... ¿Me ayudas con tu suscripción? 📌 https://www.oscarschmitz.com/recursos/newsletter

📺 Súmate a nuestra 𝐂𝐨𝐦𝐮𝐧𝐢𝐝𝐚𝐝 𝐘𝐨𝐮𝐭𝐮𝐛𝐞 "CXO Communtiy" 🎙️ Con las mejores entrevistas, encuentros y contenidos sobre innovación de los negocios, coaching ejecutivo y tecnologías disruptivas 📌 Canal Youtube https://www.youtube.com/cxocommunity

🚀 Forma parte de nuestra 𝐂𝐨𝐦𝐮𝐧𝐢𝐝𝐚𝐝 𝐋𝐢𝐧𝐤𝐞𝐝𝐢𝐧 "CXO Communtiy | Aprender, Compartir e Inspirar | Propósito Extraordinario" 👁️ Donde compartimos ideas para transformar el mundo en un futuro mejor 📌 Grupo Linkedin https://www.linkedin.com/groups/128190/

👾 Diseñando 𝐂𝐨𝐦𝐮𝐧𝐢𝐝𝐚𝐝 𝐃𝐢𝐬𝐜𝐨𝐫𝐝 (EN DISEÑO) más colaborativa, automatizada y más humana, "CXO Communtiy | Aprender, Compartir e Inspirar | Propósito Extraordinario" 👁️ Donde compartimos ideas para transformar el mundo en un futuro mejor 📌 Grupo Discord https://discord.gg/mr9GS2pqz5