Certains pays régulent déjà fortement l’IA, le ChatGPT d’OpenAI en tête. L’Italie a d’ailleurs bloqué le chatbot sur son territoire, avant de faire machine arrière. La Chine interdit tout simplement ChatGPT. Le pays vient d’ailleurs d’arrêter un homme soupçonné d’avoir utilisé le chatbot d’OpenAI pour rédiger des fake news. Mais c’est cette fois au tour d’une entreprise privée de prendre l’initiative.
Anthropic, fondée par d'anciens employés d'OpenAI, a reçu des fonds importants, dont 300 millions de dollars de la part de Google. De plus, la startup a obtenu une place à la table des négociations, participant récemment à une discussion à la Maison-Blanche aux côtés de représentants de Microsoft et d'Alphabet. L’entreprise est notamment connue pour son chatbot nommé Claude, qui est principalement disponible sur Slack.
Anthropic : des règles inspirées de la Déclaration universelle des droits de l'homme
Selon le cofondateur de la société, Jared Kaplan, Anthropic veut rendre l'IA sûre. Celui-ci indique ainsi que l'entreprise se concentre actuellement sur une méthode connue sous le nom d’IA “constitutionnelle”. Celle-ci aurait pour principe d’entrainer des chatbots à respecter des règles et des principes prédéfinis.
ChatGPT, par exemple, est limité dans ses réponses par des programmeurs humains. Ces derniers jugent la qualité d’un discours. C’est donc un être humain qui détermine si un message est inapproprié ou haineux. Mais dans le cas de l'IA constitutionnelle, cependant, ce travail est essentiellement géré par le chatbot lui-même. Une intervention humaine est toutefois requise afin de valider les décisions prises par l’IA.
Cette constitution s'inspire d'un certain nombre de sources, dont la Déclaration universelle des droits de l'homme des Nations unies et les conditions d'utilisation d'Apple. Voici quelques extraits des règles auxquels de chatbot doit se plier :
Source : theverge
