¡La carrera en inteligencia artificial no se detiene! Esta vez Meta, antes Facebook, anunció su nuevo modelo de inteligencia artificial, denominado LLaMA (Large Language Model Meta AI), que ha sido entrenado con más de 65 mil millones de parámetros, pero cuyo uso está restringido a investigaciones y científicos.
El lanzamiento del modelo de inteligencia artificial LLaMA busca “democratizar” el acceso a esta tecnología. Fue entrenado en los 20 idiomas más hablados, incluyendo el español, con énfasis en aquellos con alfabetos latinos y cirílicos.
Entre las fuentes de información está el archivo de Common Crawl, Wikipedia, Github, libros y otros contenidos. Las pruebas, explicadas en un paper publicado en Meta AI, consistieron en comparaciones del modelo con otros para distintas tareas como preguntas abiertas, razonamiento matemático, etc.
La empresa de Mark Zuckerberg asegura que, en los últimos años, los sistemas de procesamiento del lenguaje natural (PNL) han mostrado nuevas capacidades para generar texto creativo, resolver teoremas matemáticos, predecir estructuras de proteínas, responder preguntas de comprensión lectora y mucho más.
Incluso con todos los avances recientes, el acceso completo a la investigación de estos modelos es limitado por todos los recursos que se requieren para ejecutarlos y entrenarlos.
Es por ello que LLaMA está disponible en diversos “tamaños” y ha sido con determinados parámetros. “Entrenamos LLaMA 65B y LLaMA 33B en 1.4 billones de tokens. Nuestro modelo más pequeño, LLaMA 7B fue entrenado en un billón de tokens”, refiere la compañía en un comunicado.
Como modelo de base, LLaMA está diseñado para ser versátil y se puede aplicar a muchos casos de uso diferentes, en comparación con otros modelos que solo tienen una tarea específica.
Al compartirse el código del nuevo sistema IA, otros investigadores podrán probar más fácilmente nuevos enfoques. Es por ello que Meta decidió lanzar LLaMA con licencia de uso no comercial.
Meta otorgará acceso al modelo después de evaluar las solicitudes de los investigadores académicos, quienes pueden estar afiliados a organizaciones en el gobierno, la sociedad civil y la academia; así como laboratorios de investigación en todo el mundo.
Los investigadores interesados podrán hacer su solicitud desde el formulario habilitado por Meta.
