Busca detener temporalmente los grandes experimentos con IA

Líderes tecnológicos de renombre como Steve Wozniak, Jaan Tallinn y Elon Musk han unido sus fuerzas para respaldar una petición que busca paralizar temporalmente los grandes experimentos con inteligencia artificial (IA) debido a los riesgos que pueden entrañar para la sociedad.

La petición ya cuenta con más de 1.100 firmas, y busca que los laboratorios de IA detengan «de inmediato y durante al menos seis meses el entrenamiento de los sistemas de IA más potentes que GPT-4».

Los líderes tecnológicos están preocupados por el desarrollo de sistemas de IA con inteligencia humana-competitiva y piden que se detengan temporalmente para desarrollar e implementar un conjunto de protocolos de seguridad compartidos, auditados y supervisados por expertos externos independientes.

En la carta abierta publicada en el Future of Life Institute, también destacan la necesidad de trabajar con legisladores para avanzar en el desarrollo de sistemas sólidos de gobierno de IA que garanticen su desarrollo seguro, auditoría y supervisión, y permitan el seguimiento de los responsables en caso de fugas o daños.

La petición cuenta con el apoyo de líderes tecnológicos como el cofundador de Apple, Steve Wozniak; el director ejecutivo de Tesla y SpaceX y Twitter, Elon Musk; el cofundador de Skype, Jaan Tallinn; y el director ejecutivo de Stability AI, Emad Mostaque.

EE. UU. prohíbe a Musk probar los chips de Neuralink en humanos

En numerosas ocasiones, Elon Musk ha predicho que su compañía de dispositivos médicos, Neuralik, empezará con las pruebas de un implante cerebral revolucionario que tratará afecciones como la ceguera y la parálisis, sin embargo, dicha entidad no solicitó el permiso de la Administración de Drogas y Alimentos de Estados Unidos (FDA, por sus siglas en inglés) hasta principios de 2022, que finalmente, fue rechazada.

La negación estaba relacionada con la incorporación de una batería de litio, la posibilidad de que los cables del implante migren a otras áreas del cerebro o si el dispositivo puede dañar el tejido cerebral; pero un año más tarde, Neuralink trabaja en dichos errores para solicitar a la FDA una prueba de ensayos con humanos.

Reuters señala que «Neuralink no ha revelado detalles de su solicitud de prueba, el rechazo de la FDA o el alcance de las preocupaciones de la agencia. Como empresa privada, no está obligada a revelar tales interacciones regulatorias a los inversores».

El rechazo aumenta la dificultad de las solicitudes para aprobar el ensayo, además, las empresas que obtienen la certificado de las pruebas suelen realizar dos rondas antes de pedir la aprobación de la FDA para comercializar un dispositivo.