Demis Hassabis cree que el mundo necesita un perro guardián impulsado por inteligencia artificial con la capacidad de frenar de golpe si los modelos límite se vuelven demasiado peligrosos.
Escribiendo en un Publicación de blogEl director ejecutivo y cofundador de Google, DeepMind, dijo que Estados Unidos debería liderar la iniciativa, afirmando que el país es el mejor lugar para establecer estándares globales «dada su posición económica y técnica». La organización, que puede ser similar a organismos reguladores existentes, como la Autoridad Reguladora de la Industria Financiera, estará compuesta por destacados expertos independientes y representantes de las comunidades de código abierto, y tendrá la autoridad para evaluar modelos de frontera antes de su lanzamiento y coordinar desaceleraciones en toda la industria si su implementación se considera demasiado arriesgada.
El blog, titulado «Un marco para la IA de frontera y el surgimiento de una nueva era», afirmaba que la necesidad de una regulación global se está volviendo más urgente a medida que los sistemas de IA se vuelven más sofisticados. La inteligencia general artificial (AGI) está “probablemente a sólo unos años de distancia”, dijo. “Cuando miremos hacia atrás en las próximas décadas, creo que nos daremos cuenta de que estábamos en las laderas de la singularidad, nada menos que el amanecer de una nueva era para la humanidad”.
de acuerdo a axiosHassabis ha pasado meses recabando silenciosamente apoyo para su propuesta, incluso informando a la administración Trump, a otros laboratorios de inteligencia artificial y a funcionarios europeos, y espera tener la nueva organización en funcionamiento antes de fin de año. el dijo axios «El ruido que escuché (de la administración Trump) es muy positivo».
La propuesta es el último esfuerzo de Hassabis y otros líderes de la industria para crear un marco coherente para gestionar sistemas de IA cada vez más potentes, así como para mitigar los riesgos que puedan plantear. Hasta la fecha, no existe un conjunto global de reglas que gobiernen específicamente la IA, ni tampoco existe un conjunto integral de reglas a nivel nacional en los Estados Unidos. Hassabis, que ganó el Premio Nobel de Química 2024 por su trabajo en la predicción de proteínas basada en IA, también firmó con su nombre una declaración que pedía protecciones más estrictas contra la producción de armas biológicas asistida por IA el mes pasado.
Los últimos comentarios de Hassabis llegan inmediatamente después de una declaración de importantes economistas y gigantes tecnológicos, incluido el cofundador de Anthropy, Jack Clarke, y el ex director ejecutivo de Google, Eric Schmidt. urgir Los líderes mundiales deben tomar en serio los inminentes impactos económicos de la inteligencia artificial.