(CNN) Algunos de los nombres más importantes de la tecnología están pidiendo a los laboratorios de inteligencia artificial que detengan el entrenamiento de los sistemas de IA más poderosos durante al menos seis meses, citando «riesgos profundos para la sociedad y la humanidad».
Elon Musk es uno de las docenas Líderes tecnológicos, profesores e investigadores firmaron la carta Publicado por el Future of Life Institute, una organización sin fines de lucro El apoyo de Musk.
Esta carta llega dos semanas después de OpenAI declarado GPT-4, Una versión aún más poderosa de la tecnología detrás de la herramienta de chatbot viral AI, ChatGPT. En las primeras pruebas y una demostración de la empresa, se mostró la tecnología dibujando casos, pasando pruebas estandarizadas y creando un sitio web funcional a partir de un boceto dibujado a mano.
La carta decía que la suspensión se aplicaría a los sistemas de inteligencia artificial «más potentes que GPT-4». También dijo que los expertos independientes deberían usar la moratoria propuesta para desarrollar e implementar conjuntamente un conjunto de protocolos compartidos para herramientas de IA que sean seguras «más allá de toda duda razonable».
«La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y debe planificarse y gestionarse con el cuidado y los recursos adecuados», afirma la carta. dicho. «Desafortunadamente, este nivel de planificación y gestión no ha ocurrido, y aunque en los últimos meses los laboratorios de IA se han visto envueltos en una carrera incontrolable, nadie, ni siquiera sus creadores, puede entender, predecir o controlar de manera confiable la creación y el despliegue». de poderosas mentes digitales».
La carta decía que los gobiernos deberían intervenir y crear una moratoria si no se establece una pronto.
La ola de atención que rodeó a ChatGPT a finales del año pasado renovó una carrera armamentista entre las empresas de tecnología para desarrollar y utilizar herramientas de IA similares en sus productos. OpenAI, Microsoft y Google lideran la tendencia, pero IBM, Amazon, Baidu y Tencent también están trabajando en la tecnología. Una larga lista de nuevas empresas también está desarrollando asistentes de escritura y generadores de imágenes de IA.
Los expertos en inteligencia artificial están cada vez más preocupados por el potencial de las herramientas de IA para generar respuestas sesgadas, su capacidad para difundir información errónea y el impacto en la privacidad del consumidor. Estas herramientas han planteado preguntas sobre cómo la IA puede mejorar las industrias, engañar a los estudiantes y cambiar nuestra relación con la tecnología.
La carta apunta a una inquietud más amplia dentro y fuera de la industria con el rápido progreso de la IA. Anteriormente había algunas agencias de gobierno en China, la Unión Europea y Singapur. introducido Primeras versiones del marco de personalidad de la IA.
Corrección: una versión anterior de esta historia decía que el fundador de Microsoft, Bill Gates, y el director ejecutivo de OpenAI, Sam Altman, firmaron la carta. Si bien los ejecutivos se incluyeron inicialmente como signatarios, la organización sin fines de lucro detrás de la carta luego eliminó sus nombres.
