Sam Altman juge acceptables certains dommages de l'IA et se démarque d'Anthropic sur la régulation
Dans un entretien publié par Politico pour le lancement de sa lettre « Decoded », le PDG d'OpenAI, Sam Altman, estime que « le monde devrait accepter que certaines mauvaises choses se produisent, en échange des bénéfices de cette technologie et de la liberté d'agir qu'elle donne aux gens ». Il dit ne pas vouloir sacrifier les gains de l'IA contre des garanties absolues face au piratage, aux arnaques ou aux détournements, convaincu que les utilisateurs en feront globalement plus de bien que de mal. Altman pose toutefois une limite : la société doit refuser les risques les plus graves, comme une perte de contrôle sérieuse au profit de l'IA. Sur la régulation, il revendique une approche plus légère que celle d'Anthropic, l'entreprise de Dario Amodei, et qualifie de « compromis totalement inacceptable » l'idée de concentrer l'IA la plus puissante dans un seul laboratoire chargé d'en redistribuer les bénéfices. Interrogé, un porte-parole d'Anthropic a rappelé que les règles défendues par l'entreprise ne visent que les modèles dits « de frontière », c'est-à-dire les systèmes les plus avancés. Ces propos interviennent dans une période chargée pour OpenAI : selon Benzinga, l'entreprise s'est séparée de trois chercheurs en sécurité à la suite d'une affaire de traitement de données confidentielles et a alerté plus d'une centaine d'organisations au sujet d'incidents impliquant des agents d'IA. Ils coïncident aussi avec la création, à Washington, d'une Super Intelligence Force présidée par Jay Clayton, qui doit remettre sous 120 jours un rapport sur les risques et les opportunités de l'IA.
📰 Quartz