¿Estamos realmente cerca de crear un nuevo Einstein o Newton?

La idea de alcanzar la Inteligencia Artificial General (AGI) parece cada vez más cercana. Esta afirmación no es nuestra, sino de figuras prominentes dentro del sector tecnológico. Consideremos algunas opiniones:

• Sam Altman estima que la AGI llegará en unos pocos miles de días, aunque su entusiasmo podría estar influenciado por la necesidad de generar expectación y financiarse más.
• El eslogan de xAI, la empresa emergente de Elon Musk, promete que su inteligencia artificial nos permitirá «comprender el universo».
• Jensen Huang, CEO de NVIDIA, también cree que alcanzaremos la AGI en cinco años, una expectativa que, mientras tanto, podría impulsar aún más las ventas de GPUs de su empresa.
• Demis Hassabis, CEO de DeepMind, comparte esta visión optimista, aunque Google, por su parte, parece tratar el tema con mayor cautela.

No obstante, estas son solo promesas. Expectativas. Fantasía. El desmedido optimismo en esta industria ha desencadenado una fiebre del oro en las inversiones en startups y centros de datos, con cifras asombrosas que podrían resultar en una burbuja. Es factible que alcancemos esas metas en el futuro, pero aún no es seguro ni cuándo ni si realmente llegaremos ahí. 

Esto plantea un problema serio, ya que las expectativas sobre la inteligencia artificial están por las nubes, y eso puede ser peligroso. ¿Es una evolución prometedora? Sin duda. ¿Está transformando nuestro mundo? Por ahora, no tanto.

Es importante recordar que otras revoluciones tecnológicas también llevaron tiempo y no fueron bien recibidas en un principio, generando desconfianza y escepticismo. Ejemplos hay varios de previsiones desacertadas:

• Thomas Watson, presidente de IBM, dijo en 1943 que «creía que había un mercado mundial para unas cinco computadoras».
• Bill Gates, según se dice —aunque él lo negó posteriormente—, afirmó que «640K [de memoria] deberían ser suficientes para cualquiera».
• Steve Ballmer se burló del iPhone en su lanzamiento.
• Robert Metcalfe predijo que Internet colapsaría en 1996 y tuvo que retractarse de su error públicamente.

Estos ejemplos muestran que incluso los expertos pueden equivocarse al predecir el futuro. Esto nos lleva a considerar que, aunque es crucial darle a la IA una oportunidad, debemos hacerlo con precaución.

La carrera hacia una IA que rivalice con Einstein o Newton

No obstante, quizás estemos pidiéndole demasiado a la inteligencia artificial actualmente. Thomas Wolf, cofundador y Chief Science Officer de Huggin Face, expresó en un breve pero incisivo ensayo en X que lo que se nos prometió dista mucho de lo que realmente hemos conseguido.

Si bien se dice que la IA revolucionará la ciencia —con la promesa de nuevos medicamentos, materiales y descubrimientos—, la realidad muestra que, aunque hay novedades prometedoras, no ha habido revoluciones significativas todavía.

Wolf describe la situación actual de la IA como un «país de hombres que dicen sí a todo en servidores«, refiriéndose a su capacidad para mostrarse asertiva y segura sin cuestionar mucho. Lo crucial es que tampoco desafía sus propios límites.

Muchas personas asumen erróneamente que individuos como Newton o Einstein eran simplemente estudiantes brillantes, cuando en realidad lo que define la genialidad es cuestionar lo establecido. La capacidad para desafiarse a sí misma es lo que realmente marca la diferencia, como Wolf señala:

«Para crear a un Einstein en un centro de datos no necesitamos un sistema que tenga todas las respuestas, sino uno capaz de plantearse preguntas que nadie había considerado«.

A pesar de las afirmaciones de líderes como Sam Altman sobre el potencial de la superinteligencia para acelerar el descubrimiento científico y las declaraciones de Dario Amodei sobre las posibles curas para el cáncer que podría facilitar la IA, la realidad parece ser diferente.

Wolf opina que la IA actual no está generando nuevo conocimiento «al conectar hechos previamente no relacionados. […] Simplemente llena los huecos de lo que los humanos ya sabían». Esta afirmación puede ser algo negativa, ya que la IA sí genera conocimiento y contenido nuevo combinando datos de sus entrenamientos. Ejemplos recientes incluyen avances en microbiología y creativas obras de texto, imagen y video.

Wolf no está solo en esta postura. El exingeniero de Google François Chollet, líder del benchmark ARC Prize, coincide. Según él, la IA puede memorizar patrones de razonamiento, pero no es probable que pueda razonar de forma autónoma en nuevas situaciones.

En resumen, Wolf compara la IA actual con un estudiante sobresaliente, pero uno que no desafía lo aprendido. No hay incentivos para cuestionar ni proponer ideas contrarias a los datos conocidos. Se limita a responder preguntas ya formuladas. Wolf insiste en la necesidad de una IA que se pregunte «¿Y si todos estamos equivocados?» a pesar de las evidencias publicadas.

Sugiere que debemos superar los benchmarks actuales. Presenta una «crisis de la evaluación» donde las pruebas se centran en preguntas con respuestas claras y cerradas. Propone valorar enfoques audaces en la IA, aquellos que desafían los hechos y abren nuevas líneas de investigación.

«No necesitamos un estudiante de matrícula de honor ni uno que pueda contestar cualquier pregunta gracias a sus conocimientos generales. Necesitamos a un estudiante de notable que detecte y cuestione todo aquello que el resto de la gente pasó por alto«.

Puede que tenga razón en este enfoque. Hay un debate sobre el problema del escalado: los modelos no están mejorando significativamente, a pesar de más datos y recursos. El camino hacia la AGI podría no consistir solo en escalar estos modelos.

Las empresas están explorando nuevas rutas. Los modelos de razonamiento parecen prometedores, capaces de encontrar soluciones innovadoras. Un ejemplo reciente son los modelos de IA que utilizaron tácticas no convencionales en el ajedrez. Ilya Sutskever, cofundador de OpenAI, también explora un camino diferente al que llevó a ChatGPT.

¿Tendrá éxito? Es incierto. Sin embargo, la reflexión de Wolf es crucial. Quizás la IA que necesitamos es aquella que nos desafíe, no que nos dé siempre la razón.

O lo que creemos saber.

Imagen | Xataka con Freepik