En pleno despegue de la inteligencia artificial (IA), hay expertos que abogan por pulsar el botón de Pause. Un grupo compuesto por empresarios tecnológicos, políticos y otros expertos creen que se está llegando a una zona de riesgo que exige parar y reflexionar. Entre ellos destaca un nombre: Elon Musk.
En declaraciones recogidas por la agencia EFE, el grupo considera que los experimentos con IA que se están llevando a cabo «pueden plantear profundos riesgos para la sociedad y la humanidad». Para evitar caer en ellos, plantean una solución algo radical: un tiempo muerto de seis meses.
«La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad», explica la carta abierta. «Podemos hacerlo aquí. Disfrutemos de una larga pausa veraniega de la IA y no nos apresuremos a caer sin estar preparados», agrega.
El documento fue publicado por Future of Life Institute, un organismo sin ánimo de lucro.
Musk no es el único alto ejecutivo implicado en la misiva. También firman el cofundador de Apple, Steve Wozniak, o los investigadores estadounidenses Yoshua Bengio y Stuart Russel. El nutrido abanico de expertos muestra su honda preocupación, considerando que las consecuencias de continuar acelerando en los avances sin una correcta planificación podría conducir a consecuencias desastrosas.
«La IA avanzada podría representar un cambio profundo en la historia de la vida en la tierra, y debería planificarse y gestionarse con el cuidado y los recursos correspondientes», claman.
Dos preguntas clave
Además, alertan de que «los laboratorios de IA se han enzarzado en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas». Van más allá: «Nadie, ni siquiera sus creadores, puede entender, predecir o controlar de forma fiable» el funcionamiento y las reacciones de los robots.
Puedes leer: Elon Musk no quiere quedarse fuera del negocio de la inteligencia artificial
Según despliega EFE, el tono linda con lo apocalíptico durante todo el documento, en el que los firmantes se hacen dos preguntas inquietantes:
- ¿Debemos desarrollar mentes no humanas que podrían acabar superándonos en número, ser más inteligentes que nosotros y que reemplazarnos?
- ¿Debemos arriesgarnos a perder el control de la civilización?
«Tales decisiones no deben delegarse en líderes tecnológicos no electos», reflexionan. Por ello, piden que los legisladores y desarrolladores realicen un trabajo conjunto que permita establecer un marco legal a partir del cual, seguir trabajando y evolucionando.
Pausar los avances en inteligencia artificial medio año serviría para que, además de en el campo legislativo, se realizase un trabajo conjunto de todos los actores para diseñar protocolos de seguridad compartidos por todos los desarrolladores, «que sean rigurosamente auditados y supervisados por expertos externos independientes».
Será en el momento en el que exista un consenso sobre que los avances son seguros, positivos y con riesgos manejables cuando se deberá volver a pulsar el Play, en opinión de los firmantes de Future of Life Institute. Ei documento pide incluso la intervención de los gobiernos en caso de que los laboratorios de inteligencia artificial se nieguen a pausar sus avances.
El objetivo final de la iniciativa es lograr que «los sistemas potentes y de última generación sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales».
Musk y su relación con OpenAI
El documento que pide pausar los avances en inteligencia artificial durante seis meses llega en un contexto marcado por el acelerado avance de la IA, donde la empresa OpenAI juega un papel protagonista gracias a ChatGPT y su evolución, GPT-4. Cabe señalar que en el germen de la empresa, dirigida por Sam Altman, se encontraba uno de los firmantes del documento, Elon Musk.
En 2015, el magnate sudafricano participó en la creación de la compañía, que nació como un proyecto sin ánimo de lucro para fomentar el uso de la inteligencia artificial en beneficio de la sociedad. Musk se apartó en 2018 para evitar conflictos de intereses con compañías como SpaceX o Neuralink.
En 2019, OpneAI dio un giro de 180 grados, dejando su faceta puramente altruista y enfocándose más a al esfera business.
Así, recientemente Musk se mostró crítico con Altman y la evolución del proyecto. «OpenAI comenzó con código abierto y sin ánimo de lucro. Nada de eso sigue cumpliéndose«, tuiteó. Su preocupación va más allá de OpenAI, como demuestra el documento de Future of Life Institute.
Borja Santamaría, con información de EFE
Para profundizar: GPT-4. Estas son las novedades de la actualización del chat de Inteligencia Artificial
Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.
