Cómo Aditya Gautam está rediseñando la detección de desinformación mediante inteligencia artificial y qué significa esto para el futuro de la informática.
El interés de toda la vida de Aditya por este campo surgió cuando AlexNet logró una victoria histórica en el ImageNet Large Scale Visual Recognition Challenge en 2012. Ese momento es ampliamente considerado como el nacimiento del aprendizaje profundo, y a partir de entonces ya no hubo vuelta atrás.
Observó con el mismo asombro, cinco años después, cuando el artículo de 2017 "Attention Is All You Need" proporcionó el esquema para los LLM actuales. Para Aditya, mirar desde el margen ya no era suficiente. Inspirado, se unió a Google para estar en el centro de la creación de valor a partir del aprendizaje automático. El siguiente cambio sísmico llegó con el lanzamiento de ChatGPT en 2022, que puso el poder de la IA conversacional directamente en manos de la humanidad.
Este patrón implacable de innovación es lo que lo mantiene motivado. Esta industria en su conjunto es bastante emocionante. “Se mueve a un ritmo muy rápido con un gran impacto”, dice, señalando que con la “caída en picada de los costos de los tokens y el avance de los modelos, los LLM se están convirtiendo en productos básicos”. Sin embargo, para Aditya, el verdadero atractivo no era solo la tecnología en sí; era la oportunidad de aplicar su aprendizaje a problemas reales. “Me interesaba mucho en aplicar agentes de IA en el mundo real”, señala. Con sus consecuencias inmediatas y de alto impacto social, el complejo desafío de detectar la desinformación se sintió como la prueba de estrés definitiva.
El reciente crecimiento acelerado de la IA generativa ha impresionado incluso a los profesionales. "Todo el espacio está cambiando de manera drástica y exponencial desde la aplicación hasta las capas de infraestructura… no hemos visto nada como esto en nuestra vida", dice Aditya.
Pero esta rápida evolución no está exenta de inconvenientes. Aunque las herramientas han madurado, gracias a mejores mecanismos de control, modelos con ajuste fino y flujos de datos enriquecidos, sigue existiendo el riesgo de que el entusiasmo supere a la realidad.
"Sin una comprensión clara del caso de uso, el ROI y un sólido proceso de evaluación, el despliegue de agentes de IA puede generar un rendimiento decepcionante en el mundo real", advirtió Aditya.
Ese pragmatismo se refleja en su publicación reciente en la International AAAI Conference on Web and Social Media, titulada "A MultiAgent System for Misinformation Lifecycle: Detection, Correction and Source Identification", donde presenta un marco multiagente para gestionar el ciclo de vida de la desinformación, desde la detección y el diagnóstico hasta la corrección automatizada y la verificación de fuentes.
Es una arquitectura que se lee como una carrera de relevos, de un agente al siguiente, cada uno agregando su propio valor al ciclo de vida de la gestión de la desinformación.
“Antes de la era de los LLM, era posible detectar la desinformación con cierta confianza, pero corregirla automáticamente no era posible". Aditya dice, “Ahora, lo es”.
01
Indexador
Rastrea fuentes verificadas, como salas de redacción, portales gubernamentales y repositorios revisados por pares, convirtiendo información confiable en incrustaciones que se pueden buscar.
02
Clasificador
Analiza el contenido nuevo y lo clasifica según posibles problemas, como sátira, estadísticas sesgadas, videos falsos o propaganda.
03
Extractor
Rastrea la propagación de una narrativa hasta su punto de origen y clasifica la credibilidad de toda la evidencia asociada.
04
Corrector
Redacta una corrección factual, fundamentando cada oración en las fuentes mejor clasificadas proporcionadas por el indexador y el extractor.
05
Verificador
Hace una verificación final de la lógica de la corrección, la credibilidad de la fuente y el cumplimiento de las políticas de seguridad antes de liberarla o escalarla a un experto humano.
La practicidad de este plano depende de una elección de diseño crucial: el uso de LLM más pequeños y especializados. “No podemos llamar a gigantes de más de 100,000 millones de parámetros cinco veces en flujos de trabajo individuales; el cálculo y el costo se dispararían”, explica. En su lugar, un agente como el Clasificador puede ser impulsado por un modelo más pequeño ajustado específicamente para la tarea singular de clasificación.
Añade que, si bien las alucinaciones son un problema conocido, con un conocimiento complementario adecuado a través de la Generación Aumentada por Recuperación y otros medios de fundamentación, el riesgo puede ser gestionado de manera efectiva.
"La demanda de cómputo para inferencia se va a disparar, ya que prácticamente todos los sectores, desde los flujos de trabajo hasta los asistentes para trabajadores del conocimiento y la recuperación de información, estarán eventualmente impulsados por agentes de IA basados en LLM", menciona Aditya.
Los cuellos de botella ya no se refieren solo a la potencia de la GPU durante la formación. Ahora abarcan toda la pila de infraestructura y, para Aditya, hay algunas preguntas críticas que necesitan respuestas definidas:
-
-
-
-
La construcción de agentes inteligentes y receptivos requiere mucho más que modelos poderosos; necesita un sistema impecablemente optimizado y coordinado. Sin embargo, en el fondo, tres limitaciones fundamentales se interponen en el camino.
01
Primero, datos:
“Si los datos y las etiquetas están equivocados, todo va a estar mal”, advierte, enfatizando que la calidad de los datos es la base de cualquier sistema de IA confiable.
02
Segundo, memoria:
incluso las GPU con 80 GB de VRAM pueden tener problemas con incrustaciones densas y contenido multimodal, requiriendo estrategias cuidadosas de agrupamiento y reutilización de memoria.
03
Tercero, energía:
Los modelos de lenguaje consumen megavatios, y el crecimiento exponencial en su uso en todos los sectores significa que sus requisitos energéticos seguirán siendo un desafío fundamental.
El antídoto de Aditya al inmenso costo de la IA es tratar la eficiencia computacional como un principio fundamental. En el mundo del LLM, donde la informática ya no es un aspecto secundario, su estrategia no se trata simplemente de reducir costos, sino de una asignación sofisticada de recursos. La clave es saber cuándo gastar para obtener una ventaja crucial y cuándo protegerla como oro, asegurando que se entreguen resultados de primer nivel sin un gasto insostenible.
Esta filosofía se traduce en un enfoque integral, aplicando una optimización implacable en cada etapa de la vida de un modelo: durante su entrenamiento inicial, similar a un maratón; en su vida diaria de inferencia a alta velocidad; y profundamente en su entorno físico y en el propio hardware. Los siguientes son solo algunos ejemplos de las numerosas técnicas de optimización empleadas.
Durante el entrenamiento, esto significa distribuir un modelo colosal a través de miles de GPU mediante el paralelismo en todos los aspectos, es decir, datos, modelo, pipeline, expertos, contexto y utilizando técnicas ingeniosas como el ajuste fino eficiente en parámetros (PEFT) para actualizar solo una pequeña fracción de sus parámetros. Esto se complementa con optimizaciones arquitectónicas como Flash Attention para agilizar los cálculos del núcleo y una gestión avanzada de la memoria con el optimizador de redundancia cero (ZeRO) para eliminar residuos.
Para la inferencia, el modelo se pone en una "dieta estricta". Su tamaño se reduce mediante la destilación de conocimiento, donde un modelo "alumno" ágil aprende de un "profesor" masivo y la cuantización, que simplifica el lenguaje matemático del modelo en un formato más rápido y compacto. Su memoria se gestiona luego con almacenamiento en caché de clave-valor para que no tenga que volver a leer una conversación completa por cada nueva palabra.
Finalmente, a nivel de hardware, la IA está meticulosamente adaptada al silicio, optimizando las rutas de datos para reducir las transferencias innecesarias de datos.
Estas concesiones ya no son opcionales. Como señala Aditya, "una mejora de unos pocos puntos porcentuales en la eficiencia de inferencia puede ahorrar miles de máquinas y millones de dólares en costos en un sistema a gran escala". Es este enfoque preciso hacia la eficiencia lo que hace que la IA moderna sea tanto potente como práctica.
Aditya espera un mundo no tan lejano en el que "cada trabajador del conocimiento tendrá un agente adaptado a su flujo de trabajo", desde radiólogos hasta analistas de riesgo.
Los modelos multimodales alcanzarán a los de texto, permitiendo que un médico converse con una radiografía de tórax utilizando lenguaje natural para obtener información, o que un novelista cree un guion gráfico de una escena con video generado. Él predice que la interfaz se desvanecerá. La "capa intermedia de clics" como menús, desplegables y botones será reemplazada por agentes conversacionales. Agentes muy optimizados y personalizados que trabajan en segundo plano se integrarán en nuestra vida cotidiana. Ya sea que reserve un viaje, presente un reclamo de seguro o ajuste su cartera de inversiones, pronto todo será posible mediante unos pocos intercambios intuitivos en lenguaje natural. Sin botones ni formularios, solo conversación.
Todo dependerá de las lecciones que Aditya promueve hoy: mantener los modelos ligeros, los datos limpios, optimizar costos y evaluar sin piedad.
Líder técnico de aprendizaje automático en Meta
Ver en LinkedIn
Aditya Gautam es un experto en inteligencia artificial, especializado en modelos de lenguaje de gran escala (LLM) y agentes de IA, y combina investigación pionera con aplicaciones industriales de alto impacto. En Meta, ha liderado iniciativas clave utilizando LLM para abordar la desinformación y explorar los intereses de los usuarios en plataformas como Facebook Reels. Su investigación amplía este trabajo práctico, incluyendo artículos sobre el uso de sistemas multiagente para combatir el ciclo de vida de la desinformación. Como una voz activa en la comunidad de la IA generativa, frecuentemente habla en conferencias importantes sobre temas críticos como la evaluación de sistemas agénticos, la optimización de costos de LLM y su uso en sistemas de recomendación, mientras también contribuye como revisor para conferencias de IA de primer nivel como NeurIPS e ICML.
Explore el borde
Asombroso y ampliando horizontes, Uniquely Wired es acceso a entrevistas con líderes de opinión de las marcas que definen el mañana. Obtenga sus conocimientos ahora.
¿Quiere aparecer en la próxima edición de Uniquely Wired? Nuestros editores siempre están en busca de nuevas historias. ¿Es emocionante la suya?