La posibilidad de que la inteligencia artificial general (AGI) alcance o incluso supere las capacidades humanas antes de que finalice el 2030 fue planteada por Google DeepMind, la división de inteligencia artificial de Google, en un reciente informe técnico.
Según el documento titulado “Un enfoque hacia la seguridad y protección técnica de la AGI”, el desarrollo de sistemas avanzados de IA con capacidades autónomas y versátiles no solo es plausible, sino que conlleva grandes peligros que deben ser abordados con urgencia.
De acuerdo con el informe, la AGI se diferencia de los sistemas de inteligencia artificial actuales, que están diseñados para tareas específicas como la traducción de idiomas o la generación de imágenes.
En contraste, la AGI aspira a razonar, planificar, aprender y actuar en una variedad de contextos con un nivel de autonomía comparable o superior al del cerebro humano. No obstante, esta ambición tecnológica plantea desafíos complejos en términos de seguridad, control y alineación con los intereses humanos.
El informe técnico detalla cuatro categorías de riesgos asociados al desarrollo de la AGI, los cuales abarcan desde problemas técnicos hasta impactos sociales y económicos. Según el análisis, estos riesgos son:
Ante este escenario, Google ya está trabajando en el diseño de mecanismos que permitan minimizar los riesgos asociados al desarrollo de la AGI. Según el informe, la compañía busca garantizar que estos sistemas no sean utilizados de manera maliciosa y que sus comportamientos estén alineados con los intereses humanos.
.jpg)
.jpg)
.jpg)
