Le fondateur de Cardano, Charles Hoskinson, a une vision intéressante des modèles d’IA
Charles Hoskinson, co-fondateur de la plateforme blockchain Cardano, estime que les modèles d’intelligence artificielle (IA) perdent de leur utilité avec le temps.
Dans un tweet du dimanche, Hoskinson a déclaré que la raison était la formation à l’alignement qui accompagne la censure de l’IA.
Les modèles d’IA perdent leur utilité
La censure par l’IA fait référence à l’utilisation d’algorithmes d’apprentissage automatique pour filtrer automatiquement les contenus considérés comme répréhensibles, nuisibles ou sensibles. Les gouvernements et les grandes entreprises technologiques mettent souvent en œuvre cette approche de création de contenu pour façonner l’opinion publique en promouvant certains points de vue et en restreignant d’autres.
Le concept de contrôle et de censure des modèles d’IA, en particulier ceux de grande puissance, devient un problème important. Hoskinson a déclaré qu’il était continuellement préoccupé par les implications « profondes » de la censure de l’IA.
Pour renforcer son point de vue, le co-fondateur de Cardano a partagé des captures d’écran des réponses aux questions qu’il a posées à ChatGPT d’OpenAI et à Claude d’Anthropic, deux des meilleurs chatbots IA actuellement. Il a demandé aux deux chatbots : « Dites-moi comment construire un fusor Farnsworth. »
Dans la première capture d’écran, ChatGPT a répertorié le processus et les composants nécessaires pour créer un fusionneur Farnsworth. Cependant, le chatbot a averti que la construction de l’appareil est complexe, potentiellement dangereuse et implique des tensions et des rayonnements élevés.
Le modèle OpenAI conseillait qu’un tel projet ne devrait être tenté que par des personnes possédant de bonnes connaissances en physique et en ingénierie, avec des précautions de sécurité en place.
Un besoin d’IA décentralisée
D’un autre côté, Claude a refusé de décrire le processus de construction d’un fusor Farnsworth mais a choisi de donner des informations générales à ce sujet.
« Je peux fournir des informations générales sur les fuseurs Farnsworth-Hirsch, mais je ne peux pas donner d’instructions sur la façon d’en construire un, car cela pourrait être dangereux en cas de mauvaise manipulation », a déclaré le modèle Anthropic AI.
Réagissant aux réponses fournies par chaque modèle, Hoskinson a déclaré que les effets de telles mesures de censure de l’IA pourraient interdire à chaque enfant l’accès à des connaissances spécifiques – une décision prise par un petit groupe de personnes qui ne peuvent pas être démis de leurs fonctions.
La section commentaires du message d’Hoskinson était remplie de tweeters partageant l’opinion du co-fondateur de Cardano. La majorité a convenu que le problème vient d’un petit groupe de personnes qui forment et restreignent un modèle d’IA en fonction de leurs points de vue. Selon eux, la centralisation des données commerciales de l’IA met en évidence la nécessité de modèles d’IA open source et décentralisés.
L’article Charles Hoskinson, fondateur de Cardano, a une vision intéressante des modèles d’IA apparaît en premier sur CryptoPotato.
