Selon une étude, les médecins qui s'appuient sur l'IA sont devenus 20 % moins performants pour détecter les risques pour la santé.
Les outils d’assistance par intelligence artificielle sont devenus une ressource quotidienne qui a permis d’augmenter la productivité et la rapidité dans plusieurs secteurs. Malgré les avantages notables de ces systèmes intelligents, des experts médicaux s’inquiètent du fait qu’une dépendance excessive à l’intelligence artificielle puisse causer plus de tort que de bien.
En bref
- Une étude montre que les médecins qui s’appuient sur l’IA lors des coloscopies détectent moins d’irrégularités lorsqu’ils travaillent sans l’outil.
- La recherche révèle que l’IA améliore l’efficacité mais peut affaiblir les compétences de jugement en décourageant la réflexion profonde et critique.
- Le crash du vol Air France 447 met en évidence les dangers d’une dépendance excessive à l’automatisation dans des environnements à enjeux élevés.
- Les experts soulignent les avantages de l’IA mais avertissent les industries de maintenir l’expertise humaine pour les cas où l’automatisation échoue.
La dépendance à l’IA pourrait réduire les taux de détection des médecins lors des coloscopies
Une étude récente menée sur 1 443 patients a révélé que les endoscopistes utilisant des agents d’IA lors des coloscopies obtenaient un taux de réussite plus faible dans la détection des irrégularités lorsque ces outils n’étaient pas utilisés.
Les résultats de la recherche, publiés ce mois-ci dans la revue Lancet Gastroenterology & Hepatology, montrent que ces médecins atteignaient un taux de réussite de 28,4 % dans la détection de polypes potentiels grâce à la technologie. Sans ces outils, ce chiffre tombait à 22,4 %, soit une baisse de 20 % des taux de détection.
Le Dr Marcin Romańczyk, gastroentérologue au H-T. Medical Center à Tychy, Pologne, et auteur de l’étude, s’est dit surpris par les résultats. Il a souligné qu’une dépendance excessive à l’intelligence artificielle était l’un des principaux facteurs contribuant à la baisse des taux de détection.
Nous avons appris la médecine dans les livres et auprès de nos mentors. Nous les observions. Ils nous disaient quoi faire. Et maintenant, il y a un objet artificiel qui suggère ce que nous devrions faire, où nous devrions regarder, et en réalité, nous ne savons pas comment nous comporter dans ce cas particulier.
Dr. Marcin Romańczyk
Non seulement le résultat met en évidence les effets potentiellement néfastes d’une dépendance excessive à l’intelligence artificielle, mais il aborde également l’évolution de la pratique médicale, passant d’une tradition axée sur l’analogique à une ère numérique.
Préoccupations concernant l’intelligence artificielle sur le lieu de travail : des gains de productivité au détriment des capacités cognitives
Outre le déploiement accru dans les blocs opératoires et les cabinets médicaux, l’automatisation par IA est devenue une norme sur les lieux de travail, beaucoup se tournant désormais vers ces outils pour accroître la productivité. Goldman Sachs a même prédit en 2023 que l’IA pourrait augmenter la productivité au travail de 25 %.
Mais l’adoption de ces systèmes d’IA s’accompagne également de certains inconvénients à terme. En effet, des recherches menées par des entreprises de premier plan ont mis en évidence les risques liés à une confiance excessive dans ces outils.
Une publication de Microsoft et de Carnegie Mellon University a noté que l’IA avait permis d’augmenter l’efficacité du travail parmi un groupe de travailleurs du savoir interrogés. Mais elle a affaibli leurs compétences de jugement « en atrophie » et leur capacité analytique.
Dépendance excessive à l’intelligence artificielle dans l’aviation : leçons du vol Air France 447
Même dans le secteur de l’aviation, où la sécurité est primordiale, des preuves antérieures suggèrent qu’une dépendance excessive à l’automatisation peut compromettre la sécurité. En 2009, un vol Air France 447 reliant Rio de Janeiro à Paris s’est écrasé dans l’océan Atlantique, entraînant la perte de plus de 228 vies.
Les enquêtes ont ensuite révélé que le système d’automatisation de l’avion avait développé des dysfonctionnements. Cela a conduit le « directeur de vol » automatisé de l’appareil à transmettre des informations inexactes. Et comme le personnel de vol n’était pas suffisamment formé au pilotage manuel, il s’est appuyé sur les fonctionnalités automatisées de l’avion au lieu de procéder aux ajustements nécessaires.
Équilibrer l’adoption de l’IA et l’expertise humaine dans les secteurs à enjeux élevés
Lynn Wu, professeure associée d’opérations, d’information et de décisions à la Wharton School de l’Université de Pennsylvanie, a noté que ces incidents constituent un avertissement pour l’adoption de l’IA dans les secteurs où la sécurité humaine est cruciale. Wu a expliqué que, tout en adoptant ces technologies, les industries doivent s’assurer que les travailleurs les utilisent de manière appropriée.
Ce qui est important, c’est que nous tirions des enseignements de l’histoire de l’aviation et de la génération précédente d’automatisation, que l’IA peut absolument améliorer la performance. Mais en même temps, nous devons maintenir ces compétences essentielles, afin que lorsque l’IA ne fonctionne pas, nous sachions reprendre le contrôle.
Lynn Wu
Elle a ajouté que si les gens perdent leurs propres compétences, l’intelligence artificielle fonctionnera également moins bien. Pour que l’IA s’améliore, les individus doivent aussi continuellement s’améliorer eux-mêmes.
Romańczyk accepte également l’utilisation de l’IA en médecine, notant que « l’IA fera, ou fait, partie de notre vie, que cela nous plaise ou non. » Il a néanmoins souligné la nécessité de comprendre comment l’intelligence artificielle affecte la pensée humaine et a exhorté les professionnels à déterminer les moyens les plus efficaces de l’utiliser.
Avertissement : le contenu de cet article reflète uniquement le point de vue de l'auteur et ne représente en aucun cas la plateforme. Cet article n'est pas destiné à servir de référence pour prendre des décisions d'investissement.
Vous pourriez également aimer
De la frénésie des tokens à l’océan bleu des serveurs IA à 1 300 milliards de dollars : la puissance de calcul pour l’inférence de l’IA explose, inaugurant pour Dell et d’autres leaders une ère dorée de “quantité, prix et parts de marché”
Des leaders mondiaux de la fabrication de clusters de serveurs IA, tels que Dell, bénéficient simultanément de deux avantages de croissance : d'une part, l'accélération de l'expansion du marché des serveurs IA, et d'autre part, une augmentation significative de la part des commandes provenant de clients clés en informatique dématérialisée d'IA tels que les grandes entreprises et les nouveaux fournisseurs de cloud. Ils ne profitent donc pas seulement passivement des hausses de prix du matériel.
La vague de hausse des prix des services cloud GPU : Nebius augmente à nouveau de 20 %, le pouvoir de négociation s'inverse du côté de la fourniture de puissance de calcul
À partir du 1er octobre, Nebius augmentera de 20 % l’ensemble de ses services cloud GPU, avec des hausses sur de nombreux modèles de puces, du H100 au B300. Il s’agit de la deuxième augmentation de prix en quelques mois, le B300 ayant connu une hausse cumulée de 56 %. La demande de capacités de calcul est visible sur plus de 24 mois, les clients se ruant sur la puissance de calcul Blackwell, allant même jusqu’à accepter des enchères à prix supérieur. Le déséquilibre entre l’offre et la demande de puissance de calcul pour l’IA est en train de remodeler tout le rapport de force dans le secteur, le pouvoir de négociation passant lentement mais sûrement du côté des fournisseurs.
Prix des cryptos
Plus
