Technologies

La course � l'IA masque aussi une guerre culturelle

---

Certains experts estiment que DeepSeek pourrait secr�tement diffuser des pr�jug�s culturels et politiques. Une machine � exporter la vision du monde du gouvernement chinois ?

Publicit�La publication du logiciel chinois DeepSeek a suscit� des d�bats passionn�s, mais les critiques ont largement ignor� un probl�me de taille : la possibilit� pour la Chine d'utiliser un tel mod�le d'IA pour imposer un mod�le culturel et politique au reste du monde. Si DeepSeek a suscit� des inqui�tudes concernant la cybers�curit�, la protection de la vie priv�e, la propri�t� intellectuelle et d'autres questions, certains experts en IA s'inqui�tent aujourd'hui de sa capacit� � diffuser de la propagande.

Cette inqui�tude s'est notamment renforc�e lors de la pr�sentation du mod�le d'IA et du chatbot en janvier dernier, lors de laquelle la soci�t� Hangzhou DeepSeek Artificial Intelligence Basic Technology Research Co. les a envisag�s comme une sorte d'encyclop�die permettant de former la prochaine g�n�ration de mod�les d'IA.

Bien entendu, les craintes de partialit� dans l'IA n'ont rien de nouveau, m�me si les exemples pass�s semblent souvent involontaires. Ceux qui s'inqui�tent de DeepSeek reconnaissent qu'il ne s'agit pas du seul grand mod�le de langage (LLM) susceptible de servir d'outil d'entra�nement pour de futurs mod�les, et que le gouvernement chinois ne sera probablement pas le seul gouvernement ou organisation � envisager d'utiliser des mod�les d'IA comme outils de propagande. Mais la d�cision de l'entreprise chinoise de publier son mod�le de rendu sous la licence libre MIT pourrait en faire un mod�le int�ressant � utiliser dans le processus de distillation pour former des IA plus petites.

Distillation facile : un cheval de Troie ?

DeepSeek a ainsi �t� con�u pour faciliter la distillation d'autres mod�les, sugg�rent certains experts en IA. Les organisations qui construisent de petits mod�les d'IA � bas prix, notamment dans les pays en d�veloppement, pourraient se tourner vers cette IA entra�n�e � diffuser la vision du monde du gouvernement chinois. La soci�t� Hangzhou n'a pas r�pondu � une demande de commentaires sur ces pr�occupations.

L'entreprise a utilis� du mat�riel peu co�teux pour construire DeepSeek, et le co�t relativement bas laisse pr�sager un avenir o� le d�veloppement de l'IA sera accessible � de nombreuses organisations, souligne Dhaval Moogimane, responsable de la pratique technologie et logiciels de la soci�t� de conseil West Monroe. � Ce que DeepSeek a fait, d'une certaine mani�re, c'est mettre en �vidence l'art du possible �, ajoute-t-il.

Hangzhou a d�velopp� DeepSeek malgr� les contr�les am�ricains sur l'exportation des GPU � haute performance couramment utilis�s pour concevoir et tester les mod�les d'IA, prouvant ainsi la rapidit� avec laquelle les mod�les d'IA avanc�s peuvent �merger malgr� les obstacles, ajoute Adnan Masood, architecte en chef de l'IA de UST, cabinet de conseil en transformation num�rique.

Publicit�Avec un co�t d'entr�e plus faible, il est d�sormais plus facile pour les organisations de cr�er des IA puissantes... int�grant des pr�jug�s culturels et politiques. � Sur le terrain, cela signifie que des populations enti�res peuvent consommer � leur insu des r�cits fa�onn�s par une machine de politique �trang�re, explique Adnan Masood. Le temps que les responsables politiques s'en rendent compte, ces r�cits peuvent d�j� �tre ancr�s dans l'esprit du public. �

La technologie au service de la propagande

Bien que peu de gens aient parl� des mod�les d'IA en tant qu'outils de propagande, cet aspect ne devrait pas constituer une grande surprise, ajoute Dhaval Moogimane. Apr�s tout, de nombreuses technologies, dont la t�l�vision, l'internet et les m�dias sociaux, sont devenues des moyens de promouvoir des programmes politiques et culturels lorsqu'elles ont atteint le march� de masse. Les DSI et responsables IT doivent �tre conscients de la possibilit� que le gouvernement chinois et d'autres organisations fassent passer leurs propres id�es au travers de mod�les d'IA, ajoute-t-il.

Au travers des phase d'entra�nement, � il existe une opportunit� d'utiliser les mod�les pour fa�onner le r�cit, fa�onner les esprits, fa�onner les r�sultats, � bien des �gards, fa�onner ce qui est partag� �, ajoute le responsable de West Monroe. L'IA est en train d'�merger comme un nouvel outil pour ce que l'on appelle le soft power, note-t-il.

Si DeepSeek et d'autres mod�les d'IA limitent les r�f�rences � des incidents historiquement sensibles ou refl�tent des points de vue approuv�s par l'�tat sur des territoires contest�s - deux biais possibles int�gr�s dans les IA d�velopp�es par la Chine - ces mod�les deviennent des agents du changement dans les d�bats culturels mondiaux, ajoute Adnan Masood (UST).

Le d�fi de la validation des mod�les

� � notre �poque, l'IA est devenue un multiplicateur de force pour la conformit� id�ologique et l'exportation des �l�ments nationaux de soft power, explique Adnan Masood. Avec les deepfakes et les chatbots automatis�s qui inondent d�j� le discours public, il est clair que l'IA est en train de devenir un outil de leadership � fort impact pour le positionnement culturel et politique. �

L'IA trompe d�j� de nombreuses personnes lorsqu'elle est utilis�e pour cr�er des deepfakes et d'autres formes de d�sinformation, mais les biais au sein d'un outil d'entra�nement d'IA peuvent �tre encore plus subtils, ajoute Dhaval Moogimane. � En fin de compte, s'assurer que vous validez certaines des influences culturelles et des r�sultats du mod�le n�cessitera des tests et de la formation, mais cela sera un d�fi �, ajoute-t-il.

Attention au choix des mod�les d'IA

Dhaval Moogimane recommande aux entreprises de cr�er des architectures d'IA modulaires afin de pouvoir adopter facilement de nouveaux mod�les au fur et � mesure de leur publication. � Il y aura des innovations constantes dans les mod�les au fur et � mesure de l'�volution de la technologie, affirme-t-il. � Assurez-vous de cr�er une architecture �volutive afin de pouvoir remplacer les mod�les au fil du temps. �

Outre la mise en place d'une infrastructure d'IA modulaire, les DSI devraient �galement �valuer soigneusement les outils et les frameworks d'IA en termes d'�volutivit�, de s�curit�, de conformit� r�glementaire et d'�quit� avant de les s�lectionner, ajoute Adnan Masood. Les responsables informatiques peuvent utiliser des cadres d�j� �tablis tels que le cadre de gestion des risques de l'IA du NIST, les principes de l'OCDE ou les lignes directrices de l'UE sur l'IA digne de confiance pour �valuer la fiabilit� et la transparence des mod�les, ajoute-t-il. Les DSI doivent surveiller en permanence leurs outils d'IA et pratiquer une gouvernance responsable du cycle de vie de ceux-ci.

� Ce faisant, ils s'assurent que les syst�mes d'IA apportent une valeur ajout�e � l'entreprise gr�ce � des gains de productivit� et d'efficacit�, mais aussi qu'ils maintiennent la confiance des diff�rentes parties prenantes et respectent les principes de l'IA responsable �, ajoute l'architecte en chef de l'IA de UST.

Les DSI et autres d�cideurs en mati�re d'IA doivent r�fl�chir de mani�re critique aux r�sultats de leurs mod�les d'IA, tout comme les consommateurs de m�dias sociaux doivent �valuer l'exactitude des informations qu'ils re�oivent, souligne Stepan Solovev, PDG et cofondateur de Soax, fournisseur d'une plateforme d'extraction de donn�es. � Certaines personnes essaient de comprendre ce qui est vrai et ce qui ne l'est pas, mais d'autres se contentent de consommer ce qu'elles re�oivent et ne se soucient pas de v�rifier les faits, explique-t-il. C'est l'aspect le plus pr�occupant de toutes ces r�volutions technologiques : les gens n'ont g�n�ralement pas l'esprit critique, surtout lorsqu'il s'agit du premier prompt que vous soumettez � l'IA ou des premiers r�sultats que vous obtenez sur les moteurs de recherche. �

Dans certains cas, les responsables IT ne se tourneront pas vers des LLM tels que DeepSeek pour former des outils d'IA sp�cialis�s et s'appuieront d'embl�e sur des mod�les plus sp�cialis�s, explique-t-il. Dans ces situations, il est moins probable que les utilisateurs soient confront�s � un mod�le d'entra�nement entach� de pr�jug�s culturels.

N�anmoins, les DSI devraient comparer les r�sultats entre mod�les ou utiliser d'autres m�thodes pour v�rifier les r�sultats, sugg�re Stepan Solovev. � Si une IA diffuse un message biais�, une autre IA, ou des fact-checkers humains renforc�s par l'IA, peuvent la contrer tout aussi rapidement, ajoute-t-il. Nous allons assister � un jeu du chat et de la souris, mais avec le temps, je pense que la v�rit� et la transparence l'emporteront, surtout dans un march� d'id�es ouvert. �

La concurrence comme rem�de

� Le d�fi consiste � maintenir cette concurrence �quitable et � veiller � ce que les entreprises et les particuliers aient acc�s � plusieurs mod�les afin de pouvoir les comparer �, ajoute Stepan Solovev. Comme ce dernier, Manuj Aggarwal, fondateur et DSI du fournisseur de solutions informatiques et d'IA TetraNoodle Technologies, voit dans l'expansion rapide du march� de l'IA un moyen de rem�dier � la partialit� potentielle d'un DeepSeek ou d'autres LLM.

� Il est tr�s peu probable qu'un seul mod�le ait une influence majeure sur le monde, dit-il. DeepSeek n'est qu'un mod�le parmi tant d'autres, et bient�t, nous en verrons des milliers provenant de tous les coins du monde. Aucune IA ne peut � elle seule dicter des r�cits � grande �chelle lorsque tant de syst�mes divers interagissent. �

Depuis la sortie de DeepSeek, Mistral AI a, par exemple, mis son mod�le d'IA sous licence libre, et des mod�les tels que Llama de Meta et Grok de xAI �taient d�j� disponibles en Open Source, notent Manuj Aggarwal et d'autres experts de l'IA. N�anmoins, le fondateur de Terra Noodle recommande aux DSI qui utilisent des LLM pour entra�ner leurs propres mod�les d'IA de s'en tenir � des marques auxquelles ils font confiance.

� Depuis la premi�re �lection de [Barack] Obama, les campagnes [politiques] s'appuient sur des analyses bas�es sur l'IA pour cibler les �lecteurs avec pr�cision, explique-t-il. Aujourd'hui, avec des mod�les comme DeepSeek, les enjeux sont encore plus importants. La question n'est pas de savoir si l'IA sera utilis�e � des fins de propagande ; il s'agit de savoir quel contr�le les diff�rentes entit�s auront � pour contrer ces tentatives.

Article r�dig� par

Grant Gross, CIO US (adapt� par Reynald Fl�chaux)

Partager cet article