Seminario del Departamento de Ciencias de la Computación

Resumen

A medida que los modelos de lenguaje se integran en aplicaciones críticas, surge una pregunta fundamental: ¿podemos confiar en la certeza que expresan? En esta exposición argumentamos que la confianza de los Modelos de Lenguaje de Gran Tamaño (LLM, por sus siglas en inglés) está sistemáticamente distorsionada por factores ocultos. Desde el sesgo que se induce en los prompts de sistema, la alineación, así como la tendencia de los modelos a sobrevalorar sus propias respuestas, hasta la incapacidad de recuperar su conocimiento de forma consistente según el contexto. Estos fenómenos revelan que la confianza expresada por un LLM refleja más sus sesgos internos que su conocimiento real. Frente a esto, exploramos una solución basada en interacción multi-agente que, mediante la diversificación del contexto y el debate entre agentes, permite estimar la incertidumbre real del modelo de forma más robusta, siendo especialmente relevante para escenarios de alto riesgo donde la fiabilidad es crítica.

Ponente

Manuel Mager

Universidad Iberoamericana