Elon Musk y los expertos se unen para suspender la inteligencia artificial: El fundador de Tesla y actual propietario de Twitter, Elon Musk, el famoso historiador Yuval Noah Harari, el cofundador de Apple Steve Wozniak y mรกs de 1000 investigadores y creadores digitales han firmado una carta abierta en la que piden detener la implementaciรณn de experimentos gigantes de inteligencia artificial.
Esto incluye el sonar ChatGPT, un sistema de chat basado en IA desarrollado por OpenAI. Los expertos pidieron suspender el entrenamiento de sistemas de IA mรกs potentes, incluido GPT-4, durante al menos seis meses.
Un cambio profundo en la historia de la vida en la Tierra
Los expertos aseguran que la IA avanzada โpodrรญa representar un cambio profundo en la historia de la vida en la Tierra y debe ser planificada y gestionada con cuidado y los recursos correspondientesโ.
A pesar del riesgo, los laboratorios de inteligencia artificial han entrado en “una carrera fuera de control” para crear mentes digitales cada vez mรกs poderosas que ninguna, ni siquiera sus creadores, pueden comprender, predecir o controlar de forma fiable.
Ademรกs, recuerdan que dichos sistemas son una competencia para los seres humanos en tareas generales, por lo que es importante que los desarrolladores se preguntan si esto es conveniente.
โยฟDeberรญamos dejar que las mรกquinas inunden nuestros canales de informaciรณn con propaganda y falsedad? ยฟO deberรญamos automatizar todos los trabajos, incluidos los de cumplimiento? ยฟDeberรญamos desarrollar mentes no humanas que eventualmente podrรญan superarnos en nรบmero, ser mรกs inteligentes, obsoletas y reemplazarnos? ยฟDeberรญamos arriesgarnos a perder el control de nuestra civilizaciรณn?โ, cuestionan.
Desarrollo de IA responsable
Los expertos sugieren que las herramientas de IA solo deberรญan desarrollarse cuando se tenga certeza de que los efectos serรกn positivos y que los riesgos podrรกn ser controlados. Tambiรฉn pedimos que estos sistemas sean precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y justos.
Ademรกs, reclaman protocolos de seguridad compartidos que garantizan que todos los sistemas son seguros y estรกn rigurosamente auditados y supervisados โโpor expertos independientes.
La carta, a la cual se puede acceder ingresando aย https://futureoflife.org/open-letter/pause-giant-ai-experiments/, ya fue firmada por mรกs de 1.100 expertos de diversos sectores.
Una pausa temporal
La peticiรณn de los expertos no implica una pausa en el desarrollo de la IA en general, sino solo para los sistemas mรกs potentes y de forma temporal.
Los expertos pidieron que esto sea un paso atrรกs en la peligrosa carrera hacia modelos de IA cada vez mรกs grandes con capacidades emergentes impredecibles. Si esta pausa no se puede promulgar rรกpidamente, los gobiernos tendrรกn que intervenir e instituir una moratoria.
Beneficios:
- Automatizaciรณn de tareas: La IA puede realizar tareas que normalmente requerirรญan la intervenciรณn humana. Esto permite la automatizaciรณn de procesos y ayuda a las empresas a ser mรกs eficientes.
- Mayor precisiรณn: La IA se puede programar para realizar tareas con una precisiรณn y consistencia en los resultados que supera la capacidad humana.
- Toma de decisiones mรกs inteligente: la IA puede analizar grandes cantidades de datos y proporcionar informaciรณn valiosa para la toma de decisiones y la resoluciรณn de problemas complejos.
- Personalizaciรณn: la IA permite la personalizaciรณn de la experiencia del usuario y la entrega de contenido personalizado en funciรณn de los intereses y comportamientos individuales.
- Reducciรณn de costos: la IA puede ayudar a reducir costos al automatizar tareas y optimizar procesos, eliminando asรญ la necesidad de mano de obra y minimizando el riesgo de errores humanos.
Desventajas:
- Pรฉrdida de puestos de trabajo: La automatizaciรณn de tareas y la eliminaciรณn del trabajo humano puede llevar a la pรฉrdida de puestos de trabajo y la necesidad de reciclaje y educaciรณn para adaptarse a un cambio en la economรญa.
- Sesgo: La IA puede programarse con sesgos inconscientes, lo que puede resultar en decisiones discriminatorias y contraproducentes.
- Falta de empatรญa: aunque la IA puede simular una conversaciรณn humana, todavรญa carece de la capacidad de tener empatรญa y comprensiรณn emocional.
- Ciberseguridad: la IA no estรก exenta de los riesgos de ciberseguridad y las filtraciones de datos y la amenaza de ciberataques son una gran preocupaciรณn para los desarrolladores y usuarios de IA.
- Dependencia tecnolรณgica: La dependencia de la tecnologรญa y la IA puede reducir la capacidad del ser humano para tomar decisiones crรญticas en situaciones difรญciles y estratรฉgicas.
En conclusiรณn
Los expertos estรกn preocupados por los riesgos de la inteligencia artificial avanzada y pidieron una pausa temporal en su desarrollo. Quieren que los sistemas de IA sean precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.
Ademรกs, reclaman protocolos de seguridad compartidos y un estricto control externo. Los expertos piden precauciรณn para garantizar un desarrollo de IA responsable y controlado.
โถ๏ธ รndice:
