Faut-il faire confiance à l’Intelligence artificielle?

Depuis quelques années, l’Intelligence artificielle a fait graduellement son entrée dans le quotidien des consommateurs au point de devenir primordiale dans certains domaines.

Si cette technologie a facilité la vie dans plusieurs secteurs et a permis de gagner temps, argent et connaissances, elle risque d’engendrer des problèmes techniques et causer plusieurs dégâts.

Peut-on faire confiance à l’IA?

Pour, Morad El Mazyani, expert en Intelligence Artificielle, l’IA peut contenir des informations fausses; "L'intelligence artificielle est basée sur des données.  Et dans certains cas, elles peuvent être biaisées. A titre d’exemple, en 2018, Amazon avait recruté 50.000 personnes en utilisant une intelligence artificielle qui s'est basée sur leurs données pour pouvoir recruter. Résultat: ils se sont rendu compte que cette intelligence artificielle ne recrute que des hommes de plus de 35 ans et blancs. Tout simplement parce que leurs données étaient biaisées".

Et d’ajouter "c’est exactement ce qui se passe avec ChatGPT, Gemini et tous les IA qui sont basées sur des données. Ces dernières peuvent être biaisées, c'est-à-dire qu'elles ne représentent pas notre culture, notre religion, nos croyances… Tout cela pour dire que l'intelligence artificielle est comme l'électricité. Elle est là, mais on doit rajouter des couches supplémentaires pour faire confiance. Il y aura autant d'intelligence artificielle qu'il y a autant de pays", explique l’expert qui appelle à aller vers des intelligences artificielles souveraines.

Qui doit avoir le dernier mot?

L’intelligence artificielle a été développée à la base par l’être humain, pour cela, ce dernier doit toujours avoir le contrôle sur cette technologie qui peut se tromper,  "L'IA ne doit pas prendre des décisions. Il doit simplement être là, en support. C'est l'humain qui contrôle et qui prend des décisions. L’IA reste un outil tout comme Google. On ne doit pas s'en passer non plus, mais l'humain doit rester maître des décisions et piloter pour avoir le résultat qu'il veut", explique l’expert.

Le risque 0 n’existe pas

Depuis quelques années, l’Intelligence artificielle est utilisée dans des secteurs clés comme l’aviation, la recherche scientifique, l’industrie et la santé.

Dans certaines situations, une simple erreur technique peut couter chère et couter la vie à plusieurs personnes.

A titre d’exemple, dans le domaine de la santé, certaines applications peuvent remplacer le médecin pour de simples consultations, cependant, dans certaines interventions plus lourdes, l’IA n’a toujours pas sa place, comme explique le spécialiste; "Dans le domaine de la santé, il y a deux choses. Il y a d'abord l'analyse. Par exemple, quand on donne des analyses, des radios à réaliser, à ce point l'IA est très pertinente, ça s'approche à 99,99% de bonnes réponses. Tout simplement, parce qu'il est basé sur peut-être une cinquantaine d'années de données".

Et d’expliquer "Un radiologue est finalement une personne qui voit une radio qui est basée sur ses connaissances et qui va donner son diagnostic. L'IA, travaille de la même manière. Par rapport à ces deux domaines, malheureusement ou heureusement, elle est très forte. Pourtant, il n'empêche qu'il faut vérifier. Peut-être qu’on n'a pas donné toutes les données, peut-être qu'il y a d'autres... Un médecin, il ne fait pas qu'analyser, il pose des questions, il essaie de voir le contexte".

Si des avancées remarquables ont été enregistrées en matière de chirurgie, un long chemin reste à faire comme le précise le spécialiste; "c’est plus compliqué pour la chirurgie, cela nécessite une connexion qui est de 5G, 6G, etc. qui ne sont pas encore accessibles à tout le monde. Et ça se base sur une IA qui s'appelle Computer Vision. C'est quelque chose qui est au stade expérimental. Il y a des réussites, mais c'est de l'expérimental plus qu'autre chose. Cela dit, dans le domaine de la santé, le rôle du médecin reste très important parce qu’on parle de vie humaine", conclut Morad El Mazyani.

L’intelligence artificielle continue de se développer avec une rapidité impressionnante. Si aujourd’hui, plusieurs personnes restent réticentes et n’arrivent toujours pas à faire confiance à l’IA, de nouvelles performances pourront changer, corriger les imperfections et redonner confiance aux utilisateurs.