Elon Musk y los expertos se unen para suspender la inteligencia artificial: El fundador de Tesla y actual propietario de Twitter, Elon Musk, el famoso historiador Yuval Noah Harari, el cofundador de Apple Steve Wozniak y más de 1000 investigadores y creadores digitales han firmado una carta abierta en la que piden detener la implementación de experimentos gigantes de inteligencia artificial.
Esto incluye el sonar ChatGPT, un sistema de chat basado en IA desarrollado por OpenAI. Los expertos pidieron suspender el entrenamiento de sistemas de IA más potentes, incluido GPT-4, durante al menos seis meses.
Un cambio profundo en la historia de la vida en la Tierra
Los expertos aseguran que la IA avanzada “podría representar un cambio profundo en la historia de la vida en la Tierra y debe ser planificada y gestionada con cuidado y los recursos correspondientes”.
A pesar del riesgo, los laboratorios de inteligencia artificial han entrado en «una carrera fuera de control» para crear mentes digitales cada vez más poderosas que ninguna, ni siquiera sus creadores, pueden comprender, predecir o controlar de forma fiable.
Además, recuerdan que dichos sistemas son una competencia para los seres humanos en tareas generales, por lo que es importante que los desarrolladores se preguntan si esto es conveniente.
“¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿O deberíamos automatizar todos los trabajos, incluidos los de cumplimiento? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?”, cuestionan.
Desarrollo de IA responsable
Los expertos sugieren que las herramientas de IA solo deberían desarrollarse cuando se tenga certeza de que los efectos serán positivos y que los riesgos podrán ser controlados. También pedimos que estos sistemas sean precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y justos.
Además, reclaman protocolos de seguridad compartidos que garantizan que todos los sistemas son seguros y están rigurosamente auditados y supervisados por expertos independientes.
La carta, a la cual se puede acceder ingresando a https://futureoflife.org/open-letter/pause-giant-ai-experiments/, ya fue firmada por más de 1.100 expertos de diversos sectores.
Una pausa temporal
La petición de los expertos no implica una pausa en el desarrollo de la IA en general, sino solo para los sistemas más potentes y de forma temporal.
Los expertos pidieron que esto sea un paso atrás en la peligrosa carrera hacia modelos de IA cada vez más grandes con capacidades emergentes impredecibles. Si esta pausa no se puede promulgar rápidamente, los gobiernos tendrán que intervenir e instituir una moratoria.
Beneficios:
- Automatización de tareas: La IA puede realizar tareas que normalmente requerirían la intervención humana. Esto permite la automatización de procesos y ayuda a las empresas a ser más eficientes.
- Mayor precisión: La IA se puede programar para realizar tareas con una precisión y consistencia en los resultados que supera la capacidad humana.
- Toma de decisiones más inteligente: la IA puede analizar grandes cantidades de datos y proporcionar información valiosa para la toma de decisiones y la resolución de problemas complejos.
- Personalización: la IA permite la personalización de la experiencia del usuario y la entrega de contenido personalizado en función de los intereses y comportamientos individuales.
- Reducción de costos: la IA puede ayudar a reducir costos al automatizar tareas y optimizar procesos, eliminando así la necesidad de mano de obra y minimizando el riesgo de errores humanos.
Desventajas:
- Pérdida de puestos de trabajo: La automatización de tareas y la eliminación del trabajo humano puede llevar a la pérdida de puestos de trabajo y la necesidad de reciclaje y educación para adaptarse a un cambio en la economía.
- Sesgo: La IA puede programarse con sesgos inconscientes, lo que puede resultar en decisiones discriminatorias y contraproducentes.
- Falta de empatía: aunque la IA puede simular una conversación humana, todavía carece de la capacidad de tener empatía y comprensión emocional.
- Ciberseguridad: la IA no está exenta de los riesgos de ciberseguridad y las filtraciones de datos y la amenaza de ciberataques son una gran preocupación para los desarrolladores y usuarios de IA.
- Dependencia tecnológica: La dependencia de la tecnología y la IA puede reducir la capacidad del ser humano para tomar decisiones críticas en situaciones difíciles y estratégicas.
En conclusión
Los expertos están preocupados por los riesgos de la inteligencia artificial avanzada y pidieron una pausa temporal en su desarrollo. Quieren que los sistemas de IA sean precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.
Además, reclaman protocolos de seguridad compartidos y un estricto control externo. Los expertos piden precaución para garantizar un desarrollo de IA responsable y controlado.
▶️ Índice:
