OpenAI pourrait suspendre la publication des futures versions de ChatGPT et d'autres modèles d'IA. Une plainte déposée par le Centre for AI and Digital Policy (CAIDP), un organisme à but non lucratif, demande à la Federal Trade Commission (FTC) d'ouvrir une enquête contre les créateurs du populaire chatbot. Selon le document, le groupe accuse GPT-4 d'être un produit trompeur. qui présente un risque pour la vie privée et la sécurité publique.
CAIDP mentionne qu'OpenAI n'a pas effectué d'évaluation indépendante avant le déploiement de GPT-4, le modèle le plus récent qui alimente ChatGPT. Aux yeux du groupe, l'IA viole la loi fédérale sur la protection des consommateurs. Elle a demandé à la FTC d'ouvrir une enquête et de suspendre le lancement d'autres produits commerciaux jusqu'à ce qu'OpenAI se conforme aux directives imposées par l'agence fédérale.
La FTC a déclaré que l'utilisation de l'IA devait être “transparente, explicable, équitable et empirique, tout en encourageant la responsabilité”. Le produit GPT-4 d'OpenAI ne répond à aucune de ces exigences. Il est temps que la FTC agisse. Les produits commerciaux d'IA proposés aux États-Unis doivent faire l'objet d'une surveillance et d'une évaluation indépendantes.
CAIDP
Marc Rotenberg, président et conseiller général de la CAIDP, a déclaré que la FTC a la responsabilité d'enquêter sur les pratiques commerciales déloyales et trompeuses et de les interdire. “Nous demandons spécifiquement à la FTC de déterminer si l'entreprise s'est conformée aux directives émises par l'agence fédérale”, a déclaré M. Rotenberg. Le groupe décrit Dall-E, GPT-4, ChatGPT et d'autres services basés sur l'IA offerts par OpenAI, ainsi que leurs modules complémentaires, comme des produits commerciaux.
La FTC pourrait interrompre le développement de ChatGPT
La CAIDP a lancé une croisade contre les produits d'OpenAI au motif qu'ils présentent un risque pour la sécurité des personnes. Dans sa plainte, elle mentionne que l'entreprise a lancé le GPT-4 sur le marché tout en étant consciente des dangers de son utilisation pour les campagnes de désinformation, la prolifération des armes et les opérations de cybersécurité.
Les systèmes d'IA auront un potentiel encore plus grand pour renforcer des idéologies entières, des visions du monde, des vérités et des mensonges, pour les cimenter ou les verrouiller, en empêchant toute contestation, réflexion et amélioration futures.
CAIDP
Merve Hickoc, directrice de recherche à la CAIDP, a déclaré que, bien qu'elle reconnaisse les opportunités et soutienne le développement, l'absence de garde-fous pour limiter la partialité et la tromperie dans ces modèles met en danger les consommateurs et les entreprises. Dans la plainte déposée auprès de la FTC, le groupe cite le rapport d'Europol qui explique comment le ChatGPT pourrait contribuer à la criminalité.
La plainte invoque l'article 5 de la loi sur la FTC, qui interdit les actes et pratiques déloyaux et trompeurs et habilite la Commission à faire respecter les interdictions de la loi. Après enquête, s'il y a des raisons de croire que la loi est violée, la Commission peut prendre des mesures d'application par voie administrative ou judiciaire.
Le CAIDP ne cherche pas seulement à obtenir une évaluation indépendante de tous les modèles de LLM avant leur déploiement commercial. Elle demande également à la FTC d'élaborer un ensemble de règles pour les produits d'IA générative, tels que ChatGPT ou Midjourney. Si l'agence fédérale tient compte de la plainte, les entreprises devront soumettre leurs produits à une évaluation et s'assurer qu'ils respectent les normes.
Je suis une grande fan de nouvelles sur les gens – je suis une pro de la tech et des smartphones, de la littérature de série, et j'écris pendant mon temps libre.