�鶹����

A Escola Superior de Enxeara Informtica do campus de Ourense acolleu este venres a celebracin do 1st Workshop on LLMs, Minds&Machines: Mechanistic Insight&Neuro-Cognitive Applications. Towards the Misalignment Problem. A iniciativa estivo organizada polo Departamento de Informtica e o Laboratorio de Intelixencia Artificial Aplicada da �鶹���� con financiamento do Instituto de Fsica e Ciencias Aeroespaciais e a colaboracin da Xunta de Galicia, o Cesga, a Fundacin Idis e o Instituto de ���Ա�����پ����������� Sanitaria Galicia Sur. 

Este obradoiro sobre interpretabilidade mecanstica para LLMs aliados en escala, sinala o seu responsable, o profesor da �鶹���� David Olivieri, propúxose como “un taller innovador” no que reunir especialistas de diferentes disciplinas para afondar nos modelos de linguaxe de gran tamao (LLMs en inglés), a tecnoloxa de intelixencia artificial (IA) que alimenta ferramentas como ChatGPT e outros sistemas de IA conversacional. “A medida que estes sistemas se volven cada vez mis autnomos e sofisticados, comprender os seus procesos internos de toma de decisins converteuse en algo crucial tanto para o avance tecnolxico como para a seguridade pública”, comenta David Olivieri.

Segundo explica o profesor da Escola Superior de Enxeara Informtica, a actividade celebrada este venres uniu múltiples disciplinas para abordar o que en investigacin chaman "o problema do desaliamento”: o reto de garantir que os sistemas de IA persigan obxectivos que realmente se alien coas intencins humanas. “Combinando métodos punteiros da neurociencia con técnicas computacionais avanzadas, a investigacin pretende comprender como os modelos de IA forman obxectivos internamente, de xeito similar a como os neurocientficos estudan como o cerebro humano toma decisins”, detalla.

Esta conexin coa neurociencia, engade David Olivieri, ten implicacins importantes para a saúde pública, explorando o persoal investigador os paralelismos entre os patrns de razoamento da IA e os procesos cognitivos humanos e inclundo posibles patoloxas. O profesor da �鶹���� sinala ademais que a investigacin neste eido tamén empurra os lmites da computacin de alto rendemento (HPC) moderna, requirindo infraestrutura computacional a escala de petaflops para analizar as masivas representacins internas xeradas por estes sistemas de IA, procesando ata 165 xigabytes de datos nunha soa consulta.

Participacin de especialistas e tamén de alumnado

O 1st Workshop on LLMs, Minds&Machines dividiuse en dúas sesins complementarias. Na da ma realizronse charlas de investigacin de especialistas en neurociencia, seguridade da IA e infraestrutura computacional, inclundo conferencias sobre a creacin de "cerebros con patoloxas mentais in silico", a exploracin da converxencia entre a cognicin humana e a IA e os retos computacionais da medicin do aliamento en escala. Ademais, unha mesa redonda centrouse en desenvolver unha folla de ruta integrada para medir o aliamento da IA a través destas disciplinas. A sesin contou coa participacin de, ademais de David Olivieri, de Carlos Spuch e César Veiga, do IISGS; de Roberto Agis-Balboa, do Sergas-Idis e de Lois Orosa, do Cesga.

A sesin da tarde conta coa participacin prctica de alumnado, presentndose traballos entre os que destacan proxectos de investigacin estudants (como aplicacins en inmunoloxa e experiencias de hackathons europeos de IA), participando Blanca Posada (IISGS) e Alena Repetskaya. Seguiralle unha 'study jam' prctica organizada polo Google Developer Group-Ourense. Durante esta sesin interactiva, os equipos de estudantes aprendern a construr os seus propios mini-LLMs desde cero e competirn nun reto de programacin en directo con tboas de clasificacin en tempo real, “ofrecendo unha emocionante oportunidade para que a prxima xeracin de investigadores e investigadoras gae experiencia prctica coa tecnoloxa que est a moldear o noso futuro”.