CIUDAD DE MÉXICO (apro).– El Center of AI and Digital Policy (CAIDP) presentó una demanda contra OpenAI ante la Comercio Federal (FTC) de Estados Unidos porque considera que la tecnología que usa, denominada GPT-4, es violatoria de la ley de protección de los consumidores.
El CAID es una de las organizaciones que, junto con personajes del mundo de la tecnología, científicos y empresarios, advirtieron sobre los peligros de la carrera “fuera de control” del desarrollo de sistemas de Inteligencia Artificial y exigieron una pausa de seis meses en los experimentos con Inteligencia Artificial (AI).
Esta agrupación alega que el producto GPT-4 es “sesgado, engañoso y supone un riesgo para la privacidad y la seguridad pública”.
El presidente del CAIDP, Marc Rotenberg, señaló que “la FTC tiene la clara responsabilidad de investigar y prohibir las prácticas comercales injustas y engañosas. Creemos que la FTC debe examinar de cerca OpenAI y GTP-4”.
Dijo que OpenAI no está cumpliendo con las prácticas propuestas por la FTC como “la solidez empírica de los datos y de los modelos” empleados y la transparencia, además de creer en su falta de suficientes salvaguardas para limitar la parcialidad y el engaño.
En una carta abierta publicada por el Future of Life Institute, cientos de personas pidieron detener el desarrollo y las pruebas tecnológicas artificiales más potentes que el modelo de lenguaje GPT-4 de OpenAI, así se espera tener el tiempo necesario para estudiar los riesgos.
La misiva advirtió que los modelos de lenguaje como GPT-4 ya pueden competir con los humanos en muchas tareas y podrían usarse para automatizar trabajos y difundir información errónea, y planteó, a largo plazo, la sustitución de los humanos por la IA y rehacer la civilización.
“Pedimos a todos los laboratorios de Inteligencia Artificial que suspendan, inmediatamente, durante al menos seis meses el entrenamiento de sistemas de IA más potentes que GPT-4 (Incluido GPT-5, que se está entrenando actualmente)”, indicó.
Los firmantes fueron Yoshua Bengio, profesor de la Universidad de Montreal; Steve Wozniak, creador de la primera máquina Apple; Jaan Tallin, cofundador de Skype, y el CEO de Twitter, Elon Musk.
Añadió que la pausa debe ser “pública y verificable” y debe implicar a todos los que trabajan en modelos avanzados de IA como GPT-4.
“Si tal pausa no puede promulgarse rápidamente, los gobiernos deberán intervenir e instituir una moratoria”, algo que parece improbable que suceda en seis meses.
OpenIA, Microsoft y Google no respondieron a la carta, pues, al parecer, entre los firmantes están personajes involucrados con estas empresas.
