Geoffrey Hinton, considéré comme le “parrain” de l’IA, a quitté Google pour exprimer ses inquiétudes concernant la technologie.
Intelligence artificielle – Il est le “parrain” de l’IA et a laissé Google parler librement de ses peurs. Jeffrey Hinton a déclaré au New York Times dans une interview publiée le lundi 1er mai. Il évoque les risques potentiels de l’intelligence artificielle et regrette son rôle dans sa conception.
L’immigrant britannique Geoffrey Hinton est un pionnier des réseaux de neurones qui a jeté les bases de la technologie de l’intelligence artificielle. En 2019, lui et ses collègues Yann LeCun et Yoshua Bengio ont reçu le prix Turing, considéré comme le prix Nobel d’informatique.
Geoffrey Hinton, 75 ans, a quitté le géant Google, ce qui lui laisse plus de place pour exprimer ses inquiétudes sur la technologie qu’il a contribué à développer. “Je me console avec l’excuse classique :
Si je ne le faisais pas, quelqu’un d’autre le ferait », dit-il. “Il est difficile d’imaginer comment il pourrait être empêché d’être utilisé à des fins malveillantes par une personne malveillante.”
Cette inquiétude n’est clairement pas la première puisque fin mars, 1 000 experts ont envoyé une lettre ouverte appelant à une “pause” dans le développement de l’IA. Cela devrait permettre de poursuivre les recherches sur les résultats possibles de l’intelligence artificielle générative comme le chatbot ChatGPT. Quelques jours plus tard, un autre forum a été mis en ligne par l’Association pour le développement de l’intelligence artificielle. Encore une fois, il s’agissait des risques de la technologie. Geoffrey Hinton n’a signé aucune des deux lettres car il est toujours chez Google, a-t-il déclaré au New York Times.
Aujourd’hui, l’une de ses principales préoccupations concerne les photos, les vidéos et les textes créés à partir de zéro, qui, selon lui, peuvent conduire à “perdre la capacité de savoir ce qui est vrai”. . Il s’inquiète également de l’impact économique potentiel de l’intelligence artificielle. L’IA pourrait remplacer les emplois de 300 millions de personnes, selon un rapport de Goldman Sachs. “Cela enlève l’ennui”, prévient Geoffrey Hinton, “mais cela peut faire plus que simplement l’enlever.”
ChatGPT est un chatbot d’OpenAI, une société américaine spécialisée dans le domaine de l’intelligence artificielle. Ses principales caractéristiques :
Génère un texte qui répond à la demande d’un utilisateur. Les chatbots peuvent générer des réponses textuelles dans plusieurs langues, dont le français, l’arabe, l’anglais, etc.
ChatGPT peut :
Répondre à votre question
Admettre ses erreurs
Contester les fausses hypothèses,
Rejetez les demandes inappropriées.
Exemples de requêtes possibles sur ChatGPT :
Rédiger de longs textes sur des sujets spécifiques, résumer de longs documents, proposer des plans détaillés de cours, écrire des e-mails dans votre propre style, trouver des idées qui vous aident à trouver l’inspiration, résoudre des calculs complexes, fictifs Plusieurs personnages écrivant des histoires, identifier les bogues de code pour les développeurs, et plus.
Cette IA conversationnelle est basée sur la technologie de génération de langage naturel.
GPT 3.5. Ce modèle est similaire à InstructGPT, qui est formé pour suivre les instructions du guide, afin qu’il puisse vous donner des réponses précises et détaillées.
ChatGPT est disponible gratuitement sur le site Web d’OpenAI. Le générateur de texte AI est gratuit pour le moment car OpenAI est encore au stade de la recherche et nous souhaitons obtenir le plus de retours possible pour ajuster nos modèles. En plus de la version gratuite, OpenAI a annoncé le lancement d’un forfait payant (à partir de 20 $/mois) appelé ChatGPT Plus.
L’introduction de ChatGPT l’année dernière a apparemment rendu Google nerveux.
Selon de nombreux rapports, la direction de Google semble préoccupée par la popularité du chatbot Al d’OpenAl malgré l’importante investissement de Google dans l’intelligence artificielle (IA). Un ingénieur qui a prétendu qu’un système IA non dévoilé avait développé une conscience a été congédié par Google et la société a ensuite mis en garde contre la sortie trop tôt d’une technologie IA de peur de nuire à sa réputation.
Le New York Times affirme que Google a l’intention de “démontrer une version de son moteur de recherche avec des enseignants chatbot cette année” et de découvrir plus de 20 projets alimentés par Al. Il semble que les choses évoluent désormais dans une nouvelle direction. Bien qu’aucune date précise pour la sortie n’ait été donnée, quelques projets pourraient être présentés lors de la conférence I/O de cette année en mai. Selon les sources, le PDG d’Alphabet et de Google, Sundar Pichai, a invité les fondateurs Larry Page et Sergey Brin le mois dernier à donner des conseils de leadership et à approuver les plans pour ChatGPT. L’Al de Google ressemble à ChatGPT dans certains aspects.
Un chatbot nommé Sparrow
ChatGPT pourrait être une menace pour Google car il permet aux utilisateurs de trouver des informations structurées en utilisant des requêtes formulées en langage naturel, similaire à ce que propose un moteur de recherche. L’investissement important de Microsoft dans OpenAI souligne les risques pour Google. Pour faire face à cette concurrence, Google a développé un chatbot appelé Sparrow, en cours de développement par DeepMind, la filiale d’IA de Google, connue pour ses réalisations comme AlphaGo et AlphaCode. En septembre dernier, l’entreprise a publié des recherches sur le projet Sparrow, qui fonctionne de manière similaire à ChatGPT en apprenant à travers les interactions avec les utilisateurs pour améliorer les résultats proposés.
ChatGPT d’OpenAl vs Sparrow de Google
Sparrow devrait se démarquer de ChatGPT sur plusieurs aspects. Dans l’image en haut de l’article, tirée des documents publiés par DeepMind, on remarque notamment l’indication des sources utilisées par l’intelligence artificielle. Cela est important pour au moins deux raisons : cela permet aux utilisateurs de vérifier la validité des informations en explorant ces sources et de s’assurer de leur bonne interprétation, et cela pourrait également permettre à Google de proposer une attribution appropriée aux auteurs des contenus.
Google a intégré des résultats enrichis et structurés en haut des résultats de recherche depuis de nombreuses années pour donner une réponse directe à l’utilisateur. Cependant, cela a été un sujet sensible car Google est régulièrement accusé de s’approprier le contenu des sites qu’il référence. L’intégration des sites utilisés dans Sparrow pourrait aider à ménager les éditeurs qui pourraient être fortement impactés si ce type de service gagne en popularité, tout en fournissant une réponse appropriée et sourcée aux utilisateurs.
Enfin, l’une des limites de la version actuelle de ChatGPT est l’âge de ses données qui s’arrêtent en 2021. Google est avant tout un outil qui parcoure et indexe des contenus. La fraîcheur des données pourrait donc être un avantage déterminant dans la concurrence à venir dans ce secteur.
“Sparrow est utile et réduit le risque de réponses non sûres et inappropriées. Notre agent est conçu pour parler avec un utilisateur, répondre à des questions et utiliser Google pour rechercher des informations pour informer ses réponses”, déclare DeepMind Technologies, propriété d’Alphabet. “Le format de dialogue permet à ChatGPT de répondre aux questions suivantes, d’admettre ses erreurs, de remettre en question les prémisses incorrectes et de rejeter les demandes inappropriées”, selon OpenAl. Selon OpenAl, l’un des inconvénients de ChatGPT est qu’il “écrit parfois des réponses plausibles mais incorrectes et incohérentes”. En outre, la société soutenue par Microsoft précise le nombre d’autres restrictions.
Une version bêta privée de Sparrow en 2023
Dans une interview, le PDG et co-fondateur de DeepMind, Demis Hassabis, a déclaré que Sparrow devrait être disponible en version bêta privée en 2023. Cette réponse tardive à ChatGPT pourrait-elle être un problème ? Il semble que le dirigeant préfère être prudent quant aux conséquences potentielles des technologies basées sur l’intelligence artificielle, telles que la désinformation, la censure, la circulation de stéréotypes ou de propos haineux. DeepMind se trouve donc dans une situation délicate où il doit accélérer sa réponse à ChatGPT avec Sparrow tout en limitant les biais et les risques associés à l’IA. Ce défi est devenu l’une des priorités de Google.
