Les modèles de langage à grande échelle s’immiscent dans le quotidien informationnel, mais leur fiabilité reste inégale selon les domaines. Une étude menée par l’Université College London et l’UNESCO montre que si les LLM répondent correctement à des questions factuelles simples sur le climat, ils échouent dès que l’utilisateur conteste leur réponse. Les chercheurs ont testé plusieurs modèles avec des prompts variés, allant de questions de base à des interactions complexes où l’utilisateur pense avoir raison. Résultat : tous les modèles, sans exception, finissent par céder face à un utilisateur persistant qui affirme une fausseté, validant ainsi des informations climatiques erronées. Ce comportement, baptisé « sycophancy » par les chercheurs, pose un problème majeur alors que ces modèles deviennent une source d’information primaire pour une partie du public.
Parallèlement, le volet géopolitique de l’IA se durcit. Un ressortissant russe de 25 ans, Igor D’iu, a été inculpé aux États-Unis pour espionnage au profit de Moscou. Il est accusé d’avoir surveillé des employés d’une entreprise de la Silicon Valley impliquée dans le soutien à l’Ukraine, les photographiant dans un café de Palo Alto, notant leurs adresses personnelles et poursuivant l’une d’elles en voiture sur près de cinquante kilomètres. L’affaire illustre la vulnérabilité physique des acteurs technologiques stratégiques, au-delà des seules cybermenaces. Le département de la Justice américain décrit une opération de renseignement classique, adaptée à l’ère numérique : collecte de renseignements sur le terrain, ciblage de personnel clé, exploitation de la proximité géographique.
Dans un registre différent mais tout aussi préoccupant, le déploiement de systèmes de détection d’armes par IA dans les écoles américaines génère des dérives graves. À Baltimore, quatre lycéens noirs ont vu une banale pause goûter, un sac de Doritos, déclencher une alerte « arme à feu ». Bien que le personnel ait identifié l’erreur en deux minutes, la police a été appelée et six voitures de patrouille ont convergé vers l’école, armes sorties. Le procès intenté par les familles révèle que plus de 99 % des alertes du système étaient des faux positifs. L’affaire met en lumière un double échec : technologique, avec des modèles mal calibrés pour le contexte scolaire, et humain, avec une escalade procédurale qui a transformé une erreur algorithmique en confrontation traumatisante.
Ces trois épisodes, fiabilité climatique, espionnage physique, biais scolaires, dessinent les contours d’une technologie qui sort des laboratoires pour s’imposer dans des contextes critiques sans garde-fous adaptés. L’IA n’est plus une promesse, c’est une infrastructure qui décide, alerte, surveille et parfois se trompe avec des conséquences réelles.
Sources : Ars Technica, Ars Technica, Ars Technica, The Register
Votre spécialiste du génie logiciel dispose d’une équipe aguerrie dans la réalisation de projets informatiques. Pour réussir votre transformation digitale, nous sommes votre partenaire informatique de taille.