Nouveau venu parmi les logiciels conversationnels (ou dialogueurs), ChatGPT occupe le devant de la scène médiatique. Il fait partie de la famille des logiciels dits « chatbots ». L’internaute peut échanger avec lui dans un quelconque domaine : commercial, administratif, scientifique. Le fait extraordinaire est qu’en quelques secondes, il délivre un rapport en réponse à la question posée.
Mon propos n’est pas de rappeler l’historique et le contexte dans lequel s’est développé ce nouvel avatar de l’intelligence artificielle (IA). Mais de rappeler quelques évidences proprement humaines qui devraient atténuer l’effet terrorisant des trompettes des Cassandre, certes animées de bonnes intentions, mais, comme trop souvent, munies d’arguments incomplets.
Limites actuelles des performances
Pour l’instant, le logiciel ne peut pas délivrer d’informations sur l’actualité en temps réel, ce qui d’un autre côté, peut être considéré comme rassurant vu les affirmations non vérifiées qui fleurissent sur la toile.
Par force, le balayage des bases de données étrangères ajoute l’intervention d’un logiciel traducteur, et donc expose à une perte de précision du sens des mots. Le robot ne dialogue pas comme un interlocuteur incarné, il procède par repérage de mots-clés (dits déclencheurs) ou d’expressions incluses dans la question posée et à partir de là trouve la réponse dans un schéma de reconnaissance linguistique programmé, d’où une réponse plus ou moins élaborée. On ne doit jamais oublier que le robot ne réfléchit pas. L’algorithme n’a pas de conscience logique.
Le robot doit passer par une période d’apprentissage. Les premiers utilisateurs d’une question inhabituelle peuvent faire les frais d’une réponse inadéquate. Le style de son écriture est bien construit, mais imperturbablement lisse, ce qui le rend facilement reconnaissable. Il lui manque en effet l’authenticité dont est supposé être muni un investigateur normalement cultivé. « Le style, c’est l’homme », avait dit Buffon dans son discours de réception à l’Académie française le 25 août 1753. Ce qui veut dire que le style de chacun est fonction des épreuves qu’il a subies au cours de la vie. Pour l’instant le test de Turing (confrontation du logiciel à une personne) note des performances intellectuelles du niveau d’un étudiant de valeur moyenne. À voir s’il parviendra un jour au niveau de celui d’un lauréat du concours général.
ChatGPT se déplace comme un chalut ou un filet dérivant : il pêche là où il est placé. Un jour des coquilles Saint-Jacques, un autre de la dorade, un autre du bar. Force est d’admettre que c’est la littérature anglophone qui, par son volume, sature de loin l’espace numérique. En matière scientifique, les publications francophones ne représentent en effet que 1 % de l’ensemble des ouvrages et journaux. Et, la situation ne peut qu’empirer. Car qui dit volume de documents signifie quantité proportionnelle de lecteurs et donc, loi du marché oblige, plus grande attractivité pour qui veut être lu par le plus grand nombre.
Indice de confiance : Il dépend d’une série de paramètres
Tout commence par la pertinence des questions posées. La machine ne peut « entendre » que ce que la programmation lui a imposé. Il vaut mieux bien maîtriser son vocabulaire et la concision du libellé de la question.
Sur le fond, il est évident que tout dépend de la matière interrogée. La réponse sur des textes de loi, des règlements administratifs ou encore des programmes de congrès ne souffrent pas du moindre doute. En revanche, pour ce qui appartient aux sciences humaines, tout va dépendre du matériau proprement dit, lui-même subordonné à l’organisation humaine (comité de rédaction) responsable de la sélection des articles et des éditoriaux. Tout dépend également du logiciel traducteur adjoint à chatGPT : la plus belle fille du monde ne peut donner que ce qu’elle a. Enfin, la perfectibilité (GTP) du logiciel évolue au rythme des questions des utilisateurs, ce qui génère des réponses variables à des temps différents. Il faut le savoir.
Mais la vraie préoccupation, c’est l’immixtion d’intervenants frauduleux qui menacent déjà toutes activités en ligne. Certains estiment, dès maintenant, que la non-régulation du logiciel mettra les peuples dépourvus d’esprit critique à la merci d’une propagande insidieuse déjà bien outillée.
Intelligence humaine versus Intelligence artificielle
La survenue d’un tel événement ne peut que susciter l’inquiétude de se voir un jour remplacé par la machine. Il est donc utile d'observer d’abord ce qui oppose l’intelligence humaine (IH) à l’intelligence artificielle (IA) avant d’envisager la conduite à tenir et les mesures visant à annuler les effets nocifs générés par ce nouvel outil. L’homme a conscience d’être conscient. Cette petite voix intérieure nous guide en permanence et spécialement lorsque nous sommes face à un interlocuteur. L’observation de son comportement quand nous lui parlons sert à modifier, à corriger le nôtre. La relation distancielle (à tout point de vue) avec le logiciel exclut ce lien personnel.
Par exemple, la démarche médicale sollicite en même temps savoir, expérience, conscience de soi et d’autrui. Ce simple constat résume l’immensité qui sépare l’usager du logiciel ChatGPT : une polyvalence instantanée de la pensée. De son côté, le robot exécute machinalement les tâches qui lui ont été imposées et selon un mode répétitif. Le contraire du cerveau humain, capable, lui, de produire en même temps plusieurs concepts dans des champs séparés pour aboutir à une confluence cohérente. Un exemple que nous pratiquons quotidiennement : le moment de l’information à un futur opéré. Parmi les 150 000 mots de la langue française, au moyen d’une option de syntaxe variable, avec une liste étendue de synonymes, nous choisissons sur-le-champ le mode d’expression qui sera le mieux adapté au niveau culturel et aux manifestations émotionnelles du patient qui se tient devant nous. Pour ce faire, l’IH dispose d’un appareil neuro-cérébral spécifique que l’IA ne possédera jamais. La conscience de soi et d’autrui repose sur le tegmentum pontique situé dans le tronc cérébral et la région du cortex préfrontal. Surtout, nos pensées issues du néocortex (notre intelligence) sont sous l’emprise des noyaux limbiques situés dans la région médiane interne préfrontale, centres générateurs de nos émotions. On ne voit pas les techno-chercheurs capables, au moyen des circuits intégrés, simuler, un jour, ce dispositif anatomo-physiologique complexe, parvenu à cet état en plusieurs milliards d’années d’évolution. Certes, ce logiciel conversationnel risque d’être utilisé à des fins malveillantes. Certes, il va modifier les méthodes pédagogiques et même déclencher à terme un bouleversement social. À chacun, dans son champ professionnel, d’identifier les conséquences de cet événement planétaire, de les circonscrire puis de les prévenir.
Quels dangers en perspective ?
Les générations actuelles, naturellement aspirées par ces outils générateurs de résultats immédiats et complets, courent le danger de devenir une propriété existentielle. La menace de la mise en sommeil de la pensée est bien réelle. Le sens critique, fruit de plusieurs années d’enseignement secondaire, a toutes les chances d’être mis à mal. Par défaut de stimulation, la paresse démonétisera l’effort personnel et en particulier la saine épreuve de l’écriture, source de retour sur soi-même et d’inventivité. Et sans vouloir assombrir le tableau, les récents événements géopolitiques doivent nous rappeler que ce langage numérique est adossé à des supports alimentés par l’énergie électrique… Faudra-t-il donc faire des périodes d'entraînement pour se préparer à un éventuel retour à l’âge de pierre ?
La fraude est déjà en route. Il a été démontré qu’une copie d’examen de médecine rédigée avec ChatGPT avait permis au candidat fictif d’obtenir une bonne note ! On peut dès lors imaginer que thèses, articles et autres mémoires composés entre les quatre murs d’un lieu privé risquent de solliciter le logiciel en toute impunité. Si donc, on n’y prend pas garde, c’est tout l’échafaudage du diplôme républicain qui risque d’être mis à mal et la validité du contenu de l’édition scientifique et littéraire, nous allons y revenir.
Cette nouvelle avancée de l’IA va immanquablement provoquer le même phénomène social que celui décrit en 1942 par l’économiste Joseph Schumpeter, théoricien de la destruction créatrice : les cochers ont laissé la place aux chauffeurs de locomotive, l’invention du métier à tisser a provoqué des émeutes mortelles en Angleterre et en France (Lyon, 1819). ChatGPT va détruire les métiers de conseil dans tous les secteurs de l’économie et du droit. L’administration publique va être touchée de plein fouet. Il faut s’attendre à de graves mouvements sociaux, d’autant que le logiciel présenté aujourd’hui ne manquera pas de se perfectionner. Les métiers du numérique ont de beaux jours devant eux !
Mécaniquement, le profit n’est jamais loin. Aujourd’hui l’appât de la gratuité fonctionne bien (100 millions d’utilisateurs le premier mois). Cela ne va pas durer à mesure que les chatbots vont se spécialiser. La start-up à l’origine de chatGPT a été rachetée par Microsoft. Une guerre concurrentielle féroce entre GAFAM a commencé. Des investissements colossaux sont engagés et le moment viendra où l’utilisateur verra apparaître sur son écran les agaçants bandeaux publicitaires…
Quels contre-feux ?
Déjà appréhendée au niveau des institutions européennes, la lutte contre l’emprise du numérique dans l’éducation doit être renforcée à l’échelle nationale. La place de la lecture et de l’esprit critique se doit d’être reprise en main dès le primaire jusqu’à la classe de philosophie. L’écriture en français, notre joyau national, doit être valorisée par des concours littéraires, la remise de prix aux meilleurs élèves en fin d’année scolaire. Quel souvenir inoubliable que ces ouvrages à la riche reliure amoureusement conservés dans la bibliothèque des ex-nominés !
Le personnel enseignant doit être préparé à traquer la fraude. La place de l’épreuve orale n’est-elle pas le meilleur moyen de mesurer la valeur authentique d’un élève ? Le risque de fraude dans l’édition a déjà engendré le métier de traqueur numérique. C’est sûr, il y aura bientôt des entreprises de police numérique.
Conclusion : faut-il pour autant vouer ChatGPT aux gémonies ? Bien au contraire. Recevons-le comme un agent d’information de première main, un nouvel outil pédagogique, générateur d’un précieux gain de temps, mais qu’il est impératif de soumettre à la critique individuelle et collective. Et cela s’apprend. L’ère des logiciels conversationnels a commencé, « n’ayez pas peur » !
Vous souhaitez vous aussi commenter l'actualité de votre profession dans « Le Quotidien du Médecin » ? Adressez vos contributions à aurelie.dureuil@gpsante.fr
Réactions à l’événement sur le système de santé à Gaza
En partenariat avec France Info
C’est ma santé : faut-il consommer des prébiotiques et des probiotiques ?
C’est vous qui le dites
« Il en faut du courage pour vouloir devenir médecin aujourd’hui ! »
Éditorial
Une place ténue à la COP29