Sam Altman, director ejecutivo de OpenAI, declaró este martes ante un panel del Senado de Estados Unidos y afirmó que "la intervención regulatoria de los gobiernos será crucial para mitigar los riesgos de modelos cada vez más potentes"
El director ejecutivo de OpenAI, Sam Altman, declaró este martes ante un panel del Senado de Estados Unidos y afirmó que regular la Inteligencia Artificial (IA) será fundamental para limitar los riesgos del uso de esta tecnología. Altman dirige la compañía que desarrolló el modelo conversacional ChatGPT.
"Creemos que la intervención regulatoria de los gobiernos será crucial para mitigar los riesgos de modelos cada vez más potentes", estimó el empresario de 38 años que se convirtió en una de las principales figuras de Silicon Valley.
"Es fundamental que la IA más potente se desarrolle con valores democráticos, lo que significa que el liderazgo de Estados Unidos es determinante", apuntó Altman al testificar ante el Subcomité Judicial del Senado sobre Privacidad, Tecnología y Derecho.
El senador Richard Blumenthal, presidente del subcomité, escribió su comentario de apertura sobre los peligros de la IA usando ChatGPT y usó un software entrenado con su voz real para leerlo.
"Si estuvieras escuchando desde casa, podrías haber pensado que esa voz era mía y las palabras mías, pero de hecho, esa voz no era mía", dijo Blumenthal, quien sostuvo que las tecnologías de IA "ya no son fantasías de ciencia ficción".
Sam Altman, director ejecutivo de OpenAI.
Por su parte, Altman enfatizó: "Mi peor miedo es que esta tecnología salga mal. Y si sale mal, puede salir muy mal". En el Congreso lo acompañaban la ejecutiva de IBM, Christina Montgomery, y Gary Marcus, profesor emérito de la Universidad de Nueva York
Los legisladores debatieron con el empresario y otros dos expertos la necesidad de regular los sistemas informáticos que podrían "destruir literalmente nuestras vidas", en palabras del senador Lindsey Graham.
El Congreso de Estados Unidos evoca periódicamente la necesidad de regular Internet, para proteger mejor la confidencialidad de los datos y promover una mayor competencia. Pero las divisiones políticas han bloqueado la mayoría de los proyectos de ley sobre el tema desde hace años.
La denominada IA generativa, desplegada por OpenAI, Microsoft y Google (capaz de crear contenidos, textos, imágenes, sonidos o videos con solo una solicitud) ha planteado el problema de la regulación tecnológica, puesto que existe una preocupación por su eventual impacto en numerosas profesiones, con posibles recortes masivos de empleos.
Los senadores repasaron aspectos como los algoritmos sesgados y la difusión de información errónea pero cada vez más sofisticada.
"OpenAI se fundó con la creencia de que la inteligencia artificial tiene el potencial de mejorar casi todos los aspectos de nuestras vidas, pero también crea serios riesgos", reconoció Altman.
"Uno de mis mayores temores es que nosotros, esta industria, esta tecnología, causemos un daño significativo a la sociedad", dijo y agregó: "Si esta tecnología va por el camino equivocado, puede llegar bastante lejos. (...) Y queremos trabajar con el gobierno para evitar que eso suceda".
El empresario recordó que si bien OpenAI es una empresa privada, está controlada por una organización sin fines de lucro, lo que la obliga a "trabajar para una distribución amplia de los beneficios de la IA y a maximizar la seguridad de los sistemas basados en IA".
Altman ya ha expresado su apoyo al establecimiento de un marco regulatorio para la IA, preferiblemente a nivel internacional. "Sé que parece ingenuo proponer algo así, parece muy difícil" de lograr, pero "hay precedentes", aseguró, citando el ejemplo de la Agencia Internacional de Energía Atómica (OIEA).
La idea de crear una agencia federal despertó cierto entusiasmo, pero tendría que estar dotada de los recursos suficientes, subrayó Blumenthal. "Y no solo estoy hablando de dólares, estoy hablando de experiencia científica", dijo.
Sin embargo, Altman señaló que la regulación en sí misma no estaba exenta de riesgos. "Si la industria estadounidense se queda atrás, China o algún otro país pueden avanzar más rápido", dijo.
También insistió en que las medidas que se tomen no sofoquen la investigación independiente y, en cambio, se centren en empresas dominantes como la suya.
Desarrollado por Rodrigo Guidetti
