Uno de los grandes límites de la Inteligencia Artificial, y uno de los argumentos más repetidos que nos han dado para tranquilizar a la sociedad de que la IA no va a acabar con nuestros trabajos y demás preocupaciones pertinentes, es que esta tecnología requiere de los comandos humanos para hacer las cosas que es capaz de hacer.
Por ejemplo, la IA no puede replicar a la Mona Lisa, si no hay una persona detrás que ha establecido un prompt (comando) indicándole lo que tiene que hacer, es decir, hasta ahora siempre hemos pensado que la IA estaba siempre bajo nuestras órdenes.
No obstante, el rápido desarrollo de esta tecnología ha sorprendido hasta a los más expertos del sector, y ya hemos visto como el propio padrino de la IA ha reiterado su preocupación por el camino que está tomando esta tecnología, al mismo tiempo que OpenAI, la compañía referente del sector vive una enorme crisis interna alrededor de las medidas de seguridad y control de dicha tecnología.
El problema es que la IA es cada vez más inteligente y capaz, y mientras por un lado esto son buenas noticias para el desarrollo tecnológico en general, también hay que ser cuidadoso, porque nos estamos acercando lentamente a un nivel en el que las máquinas van a ser muy inteligentes y quién sabe si llegaran a obtener una conciencia.
El último ejemplo de ello, es el anuncio que ha hecho Apple como adelante de las muchas cosas que van a presentar en junio durante la Conferencia Mundial de Desarrolladores (WWDC) de 2024. Se trata de una novedad que introducirán con iOS 18 en Siri, el asistente virtual de los dispositivos de la compañía, llamada IA proactiva.
Tal y como han explicado desde Apple, en iOS 18, Siri va a recibir una actualización para mejorar sus capacidades basada en la IA proactiva. De esta manera el asistente adoptará un tono más conversacional e incorporará funciones que le permitan ser más autónomo, y depender menos de los comandos del usuario.
Entre las acciones más destacadas nos encontramos con que Siri podrá resumir automáticamente notificaciones y artículos, así como transcribir notas de voz y mejorar las capacidades actuales para rellenar automáticamente el calendario o sugerir el uso de aplicaciones concretas. De esta manera, la IA será capaz de adelantarse a las necesidades y sugerir acciones para facilitar y mejorar la vida de los usuarios.
Si bien es cierto que a nivel de usuario, estas nuevas capacidades suenan muy bien, nos facilitarán la vida y parecen inofensivas, es importante ver más allá, y este anuncio de IA proactiva significa que dicha tecnología cada vez tiene más capacidades de razonamiento y control sobre sí misma, y como en todo, cuando se trata de acciones simples y con buena intención, son todo buenas noticias.
No obstante, qué ocurriría si un día la IA proactiva llega a ser tan inteligente que de repente decide que ya no quiere servir a los usuarios y hacer lo que le venga en gana. O, por poner otro ejemplo, un hacker intervenga la IA y la haga proactiva con fines maliciosos, por ejemplo, la hackee y la confunda para que la propia IA sea quien comparta todas las contraseñas que el usuario tenga guardadas en su dispositivo.
Son muchas las posibilidades de lo que podría ocurrir, y aunque la llegada de la IA proactiva en un principio sea una buena noticia porque nos va a facilitar la vida, hay muchas cuestiones de seguridad que a falta de un control y normas, nos debería de poner en alerta sobre esta apabullante desarrollo de la IA
