“La inteligencia artificial está presente en nuestras vidas desde hace muchos años, y hay ocasiones en las que no somos conscientes de que la estamos utilizando”, afirmó Vicent Botti, director del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (conocido como VRAIN, por sus siglas en inglés). Durante el evento IA en el mundo empresarial: oportunidades y desafíos éticos, organizado por Retina e impulsado por Santander junto con NTT Data como socio anual, el investigador afirmó que el interés por esta tecnología se ha intensificado en el último año, con la llegada de ChatGPT, la aplicación de inteligencia artificial desarrollada por OpenAI, que ha cumplido su primer aniversario marcado por una crisis en lo alto de su cúpula, con la expulsión y regreso —en menos de 110 horas— de Sam Altman, su director ejecutivo. “Lo que ha sucedido con ChatGPT es que todos los días estamos hablando de estas cosas: de los retos, de los miedos, de las amenazas y de los beneficios”, afirmó el experto durante el encuentro, celebrado la semana pasada en Valencia.
En el ámbito empresarial, Justo Hidalgo, director de Inteligencia Artificial en la Asociación Española de la Economía Digital (Adigital), ha presenciado de cerca el notable interés generado por dicha tecnología. Sobre todo en aquella parte que busca emular la capacidad humana en actividades informáticas no convencionales. “La mayor parte de los presupuestos para proyectos de IA se hace en IA generativa”, aclaró durante su intervención en la mesa de debate titulada Construir una IA responsable. Pero esa atención, tanto en recursos como en tiempo, que se le dedica al tema no siempre se traduce en la utilización de la herramienta. “Las empresas aún tienen miedo a la hora de ponerlo en producción. Hay desafíos por resolver, como el de las alucinaciones: por ejemplo, si se tiene un sistema que recomienda entradas de cine o teatro y este se inventa el sitio al que el cliente tiene que ir, pues entonces creará un problema”, explicó.
“El gran reto es conseguir que sea una herramienta confiable para todos”, destacó Botti. Para ello, coincidieron los expertos, hace falta una norma que limite los riesgos y amenazas para los usuarios, pero que a su vez no implique un freno en el desarrollo y nuevas funcionalidades. “No le podemos poner puertas al campo. La regulación es necesaria para evitar el mal uso, pero la IA puede también darnos muchos beneficios a la sociedad. Limitar su aplicación no es el camino”, destacó Botti. Europa avanza ya en una regulación sobre la materia. La UE está en el proceso de regular la inteligencia artificial para garantizar mejores condiciones de desarrollo y empleo de esta tecnología. En abril de 2021, la Comisión propuso el primer marco con una clasificación de sistemas según sus riesgos. Estas normativas, al ser aprobadas, serán pioneras a escala mundial.
Castigos contundentes
“Lo que se busca es regular su utilización y quienes hagan mal uso de esta puedan ser sancionados, pero ese es solo uno de los caminos para conseguir que aprovechemos adecuadamente la tecnología”, resaltó el director de VRAIN. Los sistemas basados en IA plantean dilemas éticos significativos al tener el potencial de perpetuar prejuicios, agravar los problemas y poner en riesgo los derechos humanos de algunos grupos de la sociedad. Estos riesgos se añaden a las disparidades ya presentes en el mundo, exacerbando las dificultades para comunidades históricamente excluidas. La clave, según el experto, está en la transparencia. “Sería interesante que podamos ponerles un sello de confianza [a los sistemas de IA] y decir, muy bien, esto no tiene sesgos, o explicar [al usuario] cómo se ha llegado a las conclusiones que ha arrojado el algoritmo”, planteó Botti.
Debate transversal
“Tenemos que ver a la IA desde un punto de vista mucho más transversal. No solo hablemos de fiabilidad, robustez, de velocidad de respuesta”, abundó Hidalgo. Y a la espera de la regulación, las empresas que utilizan o desarrollan estos sistemas se están preparando para cuando esté lista la normativa. “Muchas firmas están viendo lo que sucede con la regulación porque saben que las normativas de carácter europeo pueden impactar en su día a día. Ya lo vieron con la llegada en 2018 del GDPR [Reglamento General de Protección de Datos] y quieren reaccionar lo antes posible para evitar multas”, subrayó. Ante ello, las empresas están aplicando algunas auditorías muy severas en el uso de los datos. “Pero la mayor parte de los modelos de IA no tienen nada a que agarrarse, solo les queda la transparencia y la explicabilidad del desarrollo de esos modelos”, añadió Hidalgo.
Luego hay que atender a la otra cara: los usuarios, los cuales juegan un papel fundamental, según el experto de Adigital. “Cuando utilizamos la IA tenemos que ser conscientes de lo que puede ocurrir. Entre todos hay una responsabilidad en cómo empezamos a tratar a estos sistemas; así como en los últimos años hemos aprendido a utilizar las redes sociales, tiene que haber también un trabajo muy profundo para saber cómo funcionan… No hay que olvidar que estos se nutren de lo que hacemos”, explicó.
Una aliada más que una amenaza
Este año, durante varios meses, Hollywood ha sido escenario de una huelga sin precedentes por diversas razones. Una de ellas: la utilización de la inteligencia artificial como recurso para simplificar labores de redacción y actuación. El problema desató una serie de preguntas sobre cuáles son los límites de esta tecnología frente al trabajo hecho por el ser humano. “Si ponemos el ejemplo de los guionistas, la IA generativa, además de crear textos, puede ser una herramienta muy útil cuando estás con la página en blanco y no sabes cómo empezar; es verdad que funciona bien, te da una idea que puedes desarrollar”, dijo Vicent Botti, director del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial. “Los guionistas pueden aprovecharse mucho de esta técnica y puede ayudarles a mejorar su calidad y productividad”. Pero este solo es el comienzo de un proceso en el que, después, tiene que intervenir la creatividad humana.
Algunas personas sugieren que las empresas podrían emplear la inteligencia artificial de manera inadecuada para la creación de guiones, pero aquí entran en juego otros factores, como el uso de texto generado a partir de diversas fuentes, lo que plantea cuestiones relacionadas con los derechos de autor. “La IA solo es una amenaza para cierto tipo de trabajados repetitivos que no son creativos”, argumentó Justo Hidalgo, director de IA en Adigital. Pero el uso y desarrollo acelerado de esta herramienta también generará nuevos perfiles de empleo. “Algunos estudios dicen que al final el PIB aumentará por la utilización de la IA, y no es que vaya a reemplazar a las personas, sino que aquellas que no utilicen la inteligencia artificial van a ser reemplazadas por otras que la estén empleando”, concluyó.
Frases
“La inteligencia artificial está presente en nuestras vidas desde hace muchos años, y hay ocasiones en las que no somos conscientes de que la estamos utilizando”. Vicent Botti, director del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial.
“Las empresas aún tienen miedo a la hora de poner sus sistemas de IA en producción. Hay desafíos por resolver, como el de las alucinaciones, por ejemplo”. Justo Hidalgo, director de Inteligencia Artificial en la Asociación Española de la Economía Digital (Adigital).
“La IA [tradicional] y generativa en start-ups es la única aguja que está moviendo los mercados porque, por desgracia, la financiación de venture capital está congelada”. Patricia Pastor, fundadora y GP de Next Tier Ventures, un vehículo de inversión instalado en Valencia.
“España está en una posición muy atrasada. El venture capital en el país es muy diferente al de América Latina y Estados Unidos. Los tickets que se invierten y las valuaciones son más bajas”. Paula Villamarín, CEO de LinkedAI.
“Es una época preciosa. Gracias a esta tecnología se van a producir cosas nuevas que van a incentivar la competitividad de las empresas. Hay amenazas que hay que regular, pero van a surgir proyectos muy bonitos, que van a captar inversión. Todo el mundo tiene que subirse al carro o está perdido”. Ricardo García, CEO y fundador de Flipflow.
