El Gobierno de Estados Unidos anunció este viernes que las grandes empresas tecnológicas Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI aceptaron respetar varios principios en el desarrollo de la inteligencia artificial (IA) para hacerla más segura y transparente.
Según un despacho de la agencia AFP, esas empresas estadounidenses se comprometieron a trabajar en particular en sistemas de marcado de contenidos creados con IA con el fin de reducir los riesgos de fraude y desinformación.
The White House said Friday that OpenAI and others in the artificial intelligence race have committed to making their technology safer with features such as watermarks on fabricated images.https://t.co/Wr6nc3SLC9
— AFP News Agency (@AFP) July 21, 2023
En especial, prometieron probar sus programas informáticos interna y externamente antes de su lanzamiento, invertir en ciberseguridad y compartir las informaciones pertinentes sobre sus herramientas con autoridades e investigadores, incluidas posibles fallas.
También deberán “desarrollar técnicas sólidas para asegurar que los usuarios sepan cuándo los contenidos han sido generados por IA, como un sistema de marca de agua”, indicó un comunicado del gobierno estadounidense reseñado por el medio.
“Esto permitirá que la creatividad ligada a la IA prospere mientras se reducen los peligros relacionados con fraudes o engaños”, se precisa en el documento.
Las fotografías falsas o los vídeos manipulados extremadamente realistas, también llamados deepfakes, existen desde hace años, pero la IA generativa, capaz de producir imágenes tras una simple solicitud, genera temores por olas de contenido desinformativo en línea.
Estas pueden prestarse para fabricar estafas muy creíbles o incluso para manipular la opinión, una perspectiva preocupante en especial cuando se aproximan elecciones en Estados Unidos en 2024, asegura la agencia francesa.
Hasta ahora, las principales empresas involucradas se han mostrado, sobre todo, reticentes a la idea de agregar dichas marcas sobre los contenidos creados con sus programas.
Advierten sobre el día en que las máquinas nos superen en inteligencia
“Es un tema complicado”, admitió a periodistas un alto funcionario del ejecutivo estadounidense que no ha sido identificado por el medio.
La marca de agua “debe funcionar tanto para los contenidos visuales como sonoros”, detalló. “Técnicamente debe ser robusta, pero también fácil de ver para los usuarios”.
“Es un buen primer paso para ayudar al público a identificar los contenidos creados con IA”, comentó James Steyer, fundador de la ONG Common Sense Media, citado por AFP.
“Pero este tipo de marcado por sí solo no bastará para evitar a actores maliciosos utilizar dichos contenidos con fines nefastos o ilegales”, matizó el experto, al mencionar la existencia de programas piratas de IA generativa disponibles en línea.
En el pasado mes de mayo la administración de Joe Biden insistió sobre el “deber moral” de la empresas de IA de garantizar la seguridad de sus productos.
Las tensiones políticas en el Congreso hacen poco probable legislar sobre IA en lo inmediato, aunque el gobierno adelantó que trabaja en un decreto ejecutivo, destaca la publicación.
Varias organizaciones y ejecutivos de la industria han mostrado sus preocupaciones por los efectos no deseados que puede genera la aplicación de la IA en varias facetas de la sociedad contemporánea.
Recientemente Sam Altman, el director ejecutivo y cofundador de Open AI, desarrolladora del polémico programa de generación de textos ChatGPT, pidió al Congreso estadounidense regular el desarrollo y usos de esta novedosa tecnología.
Creador de ChatGPT pide al gobierno de EEUU regular uso de la inteligencia artificial
«Mi peor temor es que le causemos un daño significativo al mundo», reveló ante un subcomité del Senado mientras planteaba la necesidad de que los gobiernos intervengan, como la única seguridad de proteger y respetar los derechos y las libertades de los ciudadanos.
Aunque reconoció que la IA puede ser utilizada para el beneficio de la humanidad en el campo de la medicina, con potencial para ayudar a encontrar soluciones a problemas como el cáncer, alertó sobre su lado oscuro.
También la Organización de Naciones Unidas (ONU), a través de su secretario general, António Guterres, propuso un pacto mundial para gestionar las tecnologías digitales, incluido el rápido avance de la IA, que según advierte el organismo, puede traer amenazas difíciles de controlar.
Guterres, que en 2021 puso sobre la mesa la idea de un Pacto Digital Mundial, donde ya se abogaba por promover la regulación de la IA, detalló en un documento de unas 30 páginas sus ideas sobre cómo hacerlo.
