José Antonio Lozano: los grandes modelos de lenguaje no van a ser el formalismo adecuado para generar inteligencia artificial general
El 24 de septiembre José A. Lozano ofreció la 2ª Conferencia Ricardo Echepare bajo el título “Inteligencia Artificial General: ¿mito, meta o amenaza?”. El catedrático de Ciencia de la Computación e Inteligencia Artificial en la Universidad del País Vasco (EHU) y director científico del Basque Center for Applied Mathematics (BCAM) abordó desde una perspectiva crítica el concepto de inteligencia artificial general.
¿Qué es la inteligencia artificial y qué no es? Aunque nos empeñemos en decir que casi todo nuevo desarrollo en el mundo de la computación es inteligencia artificial, ¿lo es?
Pues no. La verdad es que el término inteligencia se ha sobredimensionado o se ha utilizado para muchísimas cosas que no son inteligentes. Como por ejemplo el bolígrafo o la fuente inteligentes. El término inteligente se utiliza para muchas cosas, pero inteligencia artificial tiene una definición más o menos consensuada. Y un sistema de inteligencia artificial, digamos que es un sistema que tiene unas características o al menos alguna de ellas. Y, claro, la mayoría de los softwares no los tiene.
El nacimiento de BCAM es una apuesta de país para situar a Euskadi en los puestos de cabeza en el ámbito de la matemática aplicada. Tienen un reto apasionante por delante.
Sí, es un reto muy complicado. El centro ya tiene diecisiete años, llevamos mucho tiempo haciendo investigación de excelencia y ha sido reconocido por el ministerio concediéndonos la acreditación Severo Ochoa durante cuatro convocatorias consecutivas, de lo cual estamos muy orgullosos porque, además, somos el primer centro en Euskadi que lo ha conseguido.
En los últimos años, y especialmente en 2025 no dejamos de escuchar nuevas noticias sobre el avance de la IA a una velocidad que nos abruma.
Bueno, tampoco diría yo que es una cuestión de este año y de los dos últimos años. Digamos que ya llevamos varios años con el boom mediático y es terrible, sobre todo para los que llevamos investigando más de veinticinco años en inteligencia artificial. Estamos hastiados, esa es la verdad. El boom está motivado por las grandes compañías tecnológicas y por ciertos éxitos que han conseguido. Pero creo que es un boom excesivo y que hay promesas que no se van a cumplir.
¿Son suficientes los modelos de lenguaje para aspirar a una inteligencia general, o necesitamos nuevas aproximaciones radicalmente diferentes?
Te voy a dar mi opinión, que está basada en lo que he leído y en lo que opinan otra/os expertos/as. Mi opinión es que no. Mi opinión es que los modelos de lenguaje no van a permitir llegar a una inteligencia artificial general porque tienen muchas limitaciones. Son capaces de hacer cosas increíbles, pero tienen muchísimas limitaciones. Tienen limitaciones en cuanto al texto, en cuanto a la cantidad de información con la que aprenden. Según un ejemplo de Yann LeCun que es el responsable de IA en Meta, un modelo de lenguaje aprende con palabras que, más o menos codificado en información, sería diez a la catorce bytes que nos parece que es muchísimo. Una niña o un niño de cuatro años, por su vista, percibe lo mismo, percibe diez a la catorce bytes. Es decir, que la información que tiene un/a niño/a de cuatro años es la máxima información que va a poder aprender un modelo de lenguaje a partir de texto. Eso ya nos da una idea de que la dimensión que necesitamos es muy distinta.
Otro aspecto también interesante y curioso, es que la cantidad de energía que gasta el cerebro cuando está trabajando, en general, son veinte vatios. Cuando uno hace una consulta a un modelo de lenguaje el sistema está consumiendo megavatios. Esta diferencia claramente te lleva a pensar que el camino para la inteligencia artificial general no son los modelos de lenguaje.
Hay otro aspecto más, los modelos del lenguaje están basados en predecir el siguiente token, predicen la siguiente palabra. Tienen una distribución de probabilidad con muchas palabras y lo que hacen es muestrearla para obtener la palabra siguiente. Es decir, van palabra a palabra. ¿La inteligencia humana va palabra a palabra? Yo diría que nosotros no vamos palabra a palabra, sino que somos capaces de generar las cosas de golpe, no palabra a palabra, no paso a paso. Para mí son indicios de que los grandes modelos de lenguaje no van a ser el formalismo adecuado para generar inteligencia artificial general.
¿Cree que una auténtica inteligencia general requerirá necesariamente de un cuerpo físico, de una interacción con el mundo real?
Estoy casi convencido. Las grandes tecnológicas tienden a dar definiciones de inteligencia artificial general que tienen en cuenta únicamente las actividades, las actividades cognitivas de las personas o las actividades que no son físicas. Pero es que nosotros somos seres físicos. Yo ahora mismo te percibo a ti, de alguna forma estoy interiorizando cómo te veo, cómo te siento, tu expresión. Ahora sé, por ejemplo, que, si me inclino mucho, la silla se va a caer, o sea, tengo una noción del mundo físico. ¿Cuánto he aprendido yo del mundo físico simplemente interactuando con él? La mayor parte de mi inteligencia probablemente venga de interactuar con el mundo físico. Comprender el mundo físico es extremadamente más difícil que producir texto. Producir texto es mucho más fácil que comprender el mundo físico. Si queremos, desde mi punto de vista tener inteligencia artificial general, tenemos que, o simular el mundo físico, que esa es una posibilidad, o interaccionar con el mundo físico. Para mí es estrictamente necesario, a menos que las únicas tareas que supongamos sean tareas intelectuales.
¿Hasta qué punto considera que la irrupción de la inteligencia artificial afectará al empleo?
Yo creo que primero no hay que ser tan alarmistas. Y, de hecho, las últimas noticias de julio y agosto es que varias empresas que habían despedido a gente las están recontratando. Es un dato curioso. Por otro lado, toda revolución, tanto la revolución industrial como la aparición de los ordenadores, destruyeron puestos de trabajo, pero al mismo tiempo crearon muchos puestos de trabajo nuevos. Ahora mismo existen puestos de trabajo que hace veinte años no existían, entonces, aunque creo que sí que se sustituirán algunos puestos de trabajo por sistemas automáticos que realicen el trabajo creo que se crearán nuevos puestos de trabajo. Espero que lo uno compense a lo otro.
¿Es tarde para cambiar el modelo y que la IA de verdad se desarrolle para un bien común y no sólo para generar dinero y poder para las grandes corporaciones?
Nunca es tarde y yo creo que como sociedad tenemos que intentarlo. El hecho de que la mayoría de estos sistemas se desarrollen en manos privadas digamos que es peligroso en sí, porque al final tienen un objetivo. Ese objetivo puede ser ganar dinero, pero ese objetivo también podría ser otro. Hay que legislar, hay que intentar cambiar el modelo, aunque sea difícil, porque al final la creación de este tipo de modelo requiere de unas capacidades de cómputo inmensas que están disponibles para unas empresas muy concretas. Es decir, tenemos que actuar en ese sentido, y no creo que sea tarde. Otra cosa es que no sea fácil.
¿Los beneficios de la IA van a compensar los riesgos por un uso inadecuado?
Pues como siempre, depende de cómo, depende en qué manos caiga. Visto como una tecnología no es ajeno al resto de tecnología. Podemos pensar en la energía atómica. La energía atómica se usó de manera no apropiada. Entonces, depende. ¿Los riesgos que supone compensan los beneficios? Es difícil dar una respuesta. Lo que tenemos que hacer es intentar evitar esos riesgos. Limitar los riesgos, pero no eliminar los beneficios, porque los beneficios realmente pueden ser importantes.
¿Qué va a suponer la puesta en marcha del IBM Quantum System Two en su nuevo edificio de Ikerbasque para el área de investigación en la que usted trabaja?
Bueno, yo creo que en general que el ordenador cuántico venga a Gipuzkoa, a Euskadi, significa una apuesta por una nueva tecnología. Significa que va a crear, un ecosistema, que va a investigar en aspectos relacionados con la cuántica y en particular con la utilización de la cuántica en el ámbito de la inteligencia artificial. Esta utilización puede acelerar los modelos. Pero creo que para dar un paso adelante tenemos que cambiar los modelos matemáticos y los algoritmos. Igual la computación cuántica es una oportunidad para pensar en nuevos algoritmos o en nuevos modelos que, precisamente la computación cuántica permite llevar a cabo, que de alguna forma permite que sean realidad, y que, con la computación, de alguna forma habitual, no, pero habrá que verlo.
¿Si desde el ordenador de nuestra casa tenemos acceso a herramientas que nos parecen sacadas de una película de ciencia ficción, qué pueden hacer las grandes corporaciones con sus medios que no nos cuentan?
Pueden hacer muchas cosas. Pueden, por ejemplo, ejercer cierto control sobre los medios de comunicación, que a mí es una de las cosas que más me preocupa. En las últimas elecciones que ha habido en varios países estos sistemas se han utilizado para introducir bulos y hacerlos creíbles. Entonces esa influencia en las democracias es algo que me preocupa. Me preocupa enormemente.
