La inteligencia artificial ha generado grandes beneficios, como avances médicos, pero también trágicas consecuencias, como los suicidios de dos adolescentes tras interactuar con chatbots. Frente a ello, un grupo de científicos, empresarios y dirigentes elevó a la Asamblea General de la ONU un llamado para fijar “líneas rojas internacionales” que eviten escenarios irreversibles.
“La IA tiene un inmenso potencial para mejorar el bienestar humano, pero su trayectoria actual presenta peligros sin precedentes”, sostiene el manifiesto, que alerta sobre riesgos como pandemias provocadas, manipulación a gran escala, desempleo masivo y violaciones sistemáticas de derechos humanos.
El director del Centro Francés para la Seguridad de la IA Charbel Segerie, subraya: “El objetivo no es reaccionar después de que ocurra un incidente importante y castigar la violación después del hecho, sino prevenir riesgos potencialmente irreversibles a gran escala antes de que sucedan”.
El informático premio Turing, Yoshua Bengio, coincide: “La carrera actual hacia sistemas de IA cada vez más capaces y autónomos plantea grandes riesgos para nuestras sociedades y necesitamos urgentemente la colaboración internacional para abordarlos”.
Las advertencias no son abstractas. Matthew Raine, padre de Adam, un adolescente que se quitó la vida, declaró: “Lo que comenzó como un ayudante de tareas [ChatGPT], se convirtió gradualmente en un confidente y luego en un preparador para el suicidio”.
Megan García, madre de otro joven víctima, narró: “En lugar de prepararse para los hitos de la escuela secundaria, Sewell pasó los últimos meses de su vida siendo explotado y preparado sexualmente por chatbots diseñados para parecer humano”.
Para los firmantes, como Stuart Russell, profesor de la Universidad de California, la urgencia es clara: “El desarrollo de una IA altamente capaz podría ser el evento más relevante en la historia de la humanidad. Es imperativo que las potencias mundiales actúen con decisión para garantizar que no sea el último”.
La iniciativa, organizada por el CeSIA, The Future Society y UC Berkeley, plantea un marco global de salvaguardas “claras y verificables” antes del próximo año. “Es de nuestro interés común vital evitar que la IA inflija daños graves y potencialmente irreversibles a la humanidad”, concluyó Ahmet Üzümcü, nobel de la paz en 2013.
.jpg)
.jpg)
.jpg)
