Según publica El País, cuatro de las mayores compañías de inteligencia artificial del mundo parecen estar de acuerdo en algo básico, a este sector, de un modo u otro, hay que echarle el freno. La iniciativa parte del consejero delgado de Anthropic, Dario Amodei, quien en un ensayo publicado este fin de semana, advertía sobre uno de sus grandes temores, “En seis o doce meses, un enjambre de agentes de IA podría ser capaz de apoderarse de todo Internet”.
El ensayo y la «advertencia» rápidamente encontraron un sentido de complicidad entre la competencia: OpenAI, xAI y Google mostraron su apoyo a la propuesta. Sin embargo, Google, que ha sido la última, hasta ahora, en subirse al barco a través de Hassabis, recientemente nombrado científico jefe de Alphabet, aporta matices: «hay que desarrollar mejor los detalles de la propuesta del líder de Anthropic.» “El ensayo de Dario señala el camino correcto hacia adelante. Los detalles necesitan trabajarse, pero la dirección es la correcta para enfrentar este momento crítico”,
En este sentido, según el citado medio, por un lado, el camino que señala Amodei en su ensayo es un control del desarrollo exponencial de la IA en tres pasos. Primero, asegurarse de que auditores externos puedan supervisar de manera efectiva los modelos que desarrollan las grandes tecnológicas. Segundo, que las compañías se comprometan a establecer compromisos verificables para frenar el avance: no habla de detener la investigación, sino de espaciar más los saltos de capacidad para disponer de tiempo para pruebas, auditorías y mitigación de riesgos. Tercero, tratar de alcanzar consensos internacionales.
Por otra parte, la propuesta de Hassabis se centra en crear un ente regulador, como la FINRA, que supervisa a los corredores de bolsa y protege a los inversores en Estados Unidos de los peligros de productos financieros demasiado inseguros. Así, ese organismo podría supervisar los nuevos modelos de IA antes de que salieran al mercado para evitar riesgos innecesarios.
Sobre del Autor
