El informático, premio Turing en 2018, Geoffrey Hinton, considerado como “padrino“ de la Inteligencia Artificial (IA), ha alertado sobre los peligros de esa tecnología que ayudó a crear, después de renunciar a su puesto en Google para poder hablar con mayor libertad sobre el tema.
El trabajo pionero de Hinton, desarrollado a lo largo de su carrera de décadas de investigación en aprendizaje profundo y redes neuronales, ayudó a sentar las bases de gran parte de la tecnología de inteligencia artificial que se conoce actualmente, de acuerdo con un reporte de la agencia Associated Press (AP).
El experto de 75 años dijo al medio que se retiró de Google para poder hablar abiertamente sobre los riesgos potenciales como alguien que ya no trabaja para el gigante tecnológico.
“Quiero hablar sobre problemas de seguridad de la IA sin tener que preocuparme por cómo interactúa con el negocio de Google“, afirmó al medio quien supervisó durante 10 años el equipo de investigación de la empresa en Toronto.
En los últimos meses han salido a la luz los adelantos más actualizados en esta nueva tecnología. La startup OpenAI con sede en San Francisco, la compañía respaldada por Microsoft detrás de ChatGPT, lanzó en marzo GPT-4, su último modelo de inteligencia artificial. Otras grandes empresas tecnológicas han invertido fuertemente en herramientas que puedan hacerle la competencia, entre ellas Google con “Bard“.
Hinton aseguró que Google ha “actuado de manera muy responsable” con respecto a la IA, y que hay “muchas cosas buenas sobre Google“ de las que le gustaría hablar, pero esos comentarios serían “mucho más creíbles si ya no estoy en Google“.
Algunos de los peligros de los chatbots de IA han sido considerados por el experto estadounidense como “bastante aterradores“. “En este momento, no son más inteligentes que nosotros, por lo que puedo decir. Pero creo que pronto lo serán”, afirmó recientemente a la BBC.
El medio también hace referencia a declaraciones del especialista a MIT Technology Review, en las que señala que “malos actores“ pueden usar la IA de maneras que podrían tener un impacto perjudicial en la sociedad, y citó la manipulación de elecciones y la instigación a la violencia como ejemplos de esos indeseados efectos.
Hinton fue uno de los tres pioneros de la IA que en 2019 ganó el Premio Turing, un honor que se conoce como la versión del Premio Nobel de la industria tecnológica. Los otros dos ganadores, Yoshua Bengio y Yann LeCun, también expresaron su preocupación por el futuro de esta tecnología.
Según la AP, Bengio, profesor de la Universidad de Montreal, firmó una petición a fines de marzo en la que pedía a las empresas tecnológicas que acordaran una pausa de seis meses en el desarrollo de potentes sistemas de AI.
LeCun, un destacado científico del tema en Meta, la empresa matriz de Facebook, ha tomado posiciones más optimistas sobre esta problemática, apunta la agencia estadounidense.
Actualmente se debate si los principales peligros de esta novedosa tecnología están en el futuro o en el presente. Por un lado, AP señala que están los escenarios hipotéticos de riesgo existencial causados por computadoras que superan a la inteligencia humana. Por otro lado, las preocupaciones sobre la tecnología automatizada que las empresas y los gobiernos ya están implementando ampliamente y que puede causar daños en el mundo real.
“Para bien o para mal, lo que ha hecho el momento del chatbot es hacer de la IA una conversación nacional e internacional que no solo incluye a expertos y desarrolladores”, dijo Alondra Nelson, quien hasta febrero dirigió la Oficina de Ciencia y Tecnología de la Casa Blanca.
“La IA ya no es abstracta, y tenemos este tipo de apertura, creo, para tener una nueva conversación sobre cómo queremos un futuro democrático y un futuro sin explotación con tecnología”, dijo Nelson en una entrevista.
Varios investigadores sobre la IA han expresado su preocupación por los prejuicios raciales, de género y de otro tipo que la tecnología, que incluye modelos de lenguaje extenso basados en texto que se entrenan en grandes cantidades de escritura humana, y pueden amplificar la discriminación que existe en la sociedad.
“Necesitamos dar un paso atrás y pensar realmente en las necesidades de quién se están poniendo al frente y en el centro de la discusión sobre los riesgos”, dijo Sarah Myers West, directora general de la organización sin fines de lucro AI Now Institute.
“Los actuales daños que están siendo promulgados por los sistemas de IA en realidad no están distribuidos de manera uniforme. Está exacerbando en gran medida los patrones de desigualdad existentes”, sentenció.
