Paniques technologiques, IA générative et nécessité d'une prudence réglementaire

Résumé : L'intelligence artificielle générative (IA) - des systèmes d'IA qui produisent du texte, des images et de la musique originaux à partir de simples invites utilisateur - a des applications importantes dans de nombreux domaines, notamment le divertissement, l'éducation, les soins de santé et la vente au détail. Cependant, des inquiétudes exagérées et trompeuses concernant le potentiel de l'outil à causer des dommages ont évincé toute discussion raisonnable sur la technologie, générant une "panique technologique" familière, mais malheureuse. Jusqu'à ce que l'hystérie se dissipe, les décideurs politiques devraient faire une pause sur toute nouvelle législation ou réglementation ciblant directement l'IA générative. (Télécharger le PDF)

Des changements technologiques importants perturbent inévitablement l'économie et la société, et le potentiel de changement majeur induit à la fois des craintes et des attentes exagérées. Les développements récents de l'intelligence artificielle (IA) - une branche de l'informatique qui étudie les systèmes informatiques qui effectuent des opérations nécessitant auparavant l'intelligence humaine - ont accru l'imagination quant à ce que l'avenir nous réserve. Les prophètes de malheur de l'IA prédisent la destruction d'emplois, le déclin de l'intelligence humaine, la perte de la vie privée, la manipulation algorithmique et, parfois, la fin de l'humanité.1

Les craintes concernant l'IA ont atteint de nouveaux niveaux en raison de l'émergence de l'IA générative. L'IA générative, un nouvel outil capable de produire des textes, des images et des vidéos complexes à partir de simples entrées, promet de démocratiser le secteur créatif et de permettre des formes de créativité entièrement nouvelles. Cette nouveauté a impressionné les passionnés de technologie mais en a alarmé beaucoup d'autres, en particulier ceux qui pensent que l'IA empiète sur la créativité, que beaucoup de gens considèrent comme une différence essentielle qui sépare les humains des machines.

Pourtant, la technologie et la créativité humaine sont depuis longtemps liées, et les craintes concernant l'impact négatif des nouvelles innovations ont été exagérées dans le passé. Par exemple, les innovations antérieures dans le secteur de la musique ont fait craindre que les albums de disques rendraient les émissions en direct superflues ou que la radio détruirait l'industrie du disque ou que l'échantillonnage et d'autres moyens d'édition numérique saperaient l'art musical. Mais ces inquiétudes ne sont jamais arrivées. Au fil du temps, cette panique technologique et d'autres se sont estompées à mesure que le public adoptait la nouvelle technologie, que les marchés s'adaptaient et que les préoccupations initiales se sont avérées clairement exagérées ou ne sont jamais arrivées.

Les craintes entourant les nouvelles technologies suivent une trajectoire prévisible appelée « le cycle de panique technologique ».2 Les craintes augmentent, culminent, puis diminuent au fil du temps à mesure que le public se familiarise avec la technologie et ses avantages. En effet, d'autres technologies « génératives » antérieures au secteur de la création telles que l'imprimerie, le phonographe et le cinématographe ont suivi ce même parcours. Mais contrairement à aujourd'hui, il était peu probable que les décideurs fassent grand-chose pour réglementer et restreindre ces technologies. Alors que la panique suscitée par l'IA générative entre dans sa phase la plus volatile, les décideurs politiques devraient respirer profondément, reconnaître le cycle prévisible dans lequel nous nous trouvons et suspendre temporairement tout effort de réglementation visant directement l'IA générative.

Les mérites d'encourager ou de freiner toute nouvelle technologie dépendent des cas d'utilisation disponibles et des dommages potentiels. Alors que beaucoup acceptent cette prémisse, les alarmistes n'imaginent que des risques catastrophiques ou préfèrent l'état de la technologie tel qu'il est. De nombreux alarmistes sont incités à trouver ou à exagérer une raison de s'alarmer, car cela attire des fonds pour leur plaidoyer. Ces acteurs commencent à semer la panique lorsque de nouvelles technologies arrivent, déclenchant une réaction en chaîne qui dégénère rapidement en frénésie.

Au fur et à mesure que le public commence à utiliser et à se familiariser avec un nouvel outil, il devient vite évident que les alarmistes ont exagéré les risques ou induit le public en erreur sur leurs préoccupations. La panique commence à s'atténuer et les médias perdent lentement leur attention (bien qu'ils corrigent rarement le dossier). Au fur et à mesure que l'innovation devient courante, seuls les alarmistes se retrouvent à exprimer des préoccupations sporadiques et moins attrayantes avant de passer finalement aux nouvelles technologies. Ce schéma constitue le Tech Panic Cycle (voir figure 1).

Figure 1 : Le cycle de panique technologique3

Le cycle comporte quatre étapes : faire confiance aux débuts, paniquer, dégonfler les peurs et passer à autre chose.

Au début du cycle, la connaissance du nouvel outil créatif est limitée à ceux qui l'ont inventé, aux innovateurs dans le domaine, aux commentateurs et aux experts du domaine. Les ingénieurs sont encore en train de déterminer son potentiel et les innovateurs envisagent des cas d'utilisation commerciale. Les craintes restent faibles car l'outil n'est ni bien connu ni largement utilisé.

Mais les prophètes de malheur ont vite vent du nouvel outil et sonnent l'alarme. Étant donné que les alarmistes ne peuvent pas déterminer où l'appareil est mal utilisé, ils ciblent des dommages imaginaires plutôt que réels. Par exemple, AccessNow a récemment affirmé que Microsoft avait formé Vall-E, un outil d'IA génératif pas encore public, en écoutant secrètement les utilisateurs de Teams4. Si cela est vrai, cela justifierait les inquiétudes quant au pouvoir et à la volonté des entreprises d'IA de tromper leurs utilisateurs. Mais l'affirmation était fausse : Vall-E a utilisé Libri-Light, une collection d'archives audio accessible au public, pour les données d'entraînement.5

Lorsque l'impact des nouvelles technologies génératives est plus tangible, comme sa place dans la main-d'œuvre, les alarmistes induisent souvent en erreur en utilisant une rhétorique inutilement émotionnelle.6 Cette rhétorique s'avère inévitablement fausse mais sert à en effrayer plus d'un. Étant donné que la compréhension publique de la nouvelle technologie au stade Trusting Beginnings est si primitive, le public et les médias acceptent souvent les affirmations du potentiel destructeur de la technologie. Ce moment marque le point de panique.

Les craintes se sont propagées rapidement parmi les réseaux alarmistes et ceux qui ont l'oreille des décideurs politiques. Au stade Rising Panic, les décideurs politiques sensibles aux questions brûlantes légitiment les craintes en les répétant dans les projets de loi, les auditions et les discours et déclarations publics. L'industrie héritée, qui se sent menacée, mène souvent la charge. Incapables de résister à l'opportunité d'écrire du contenu sensationnaliste, les journalistes ne peuvent s'empêcher de s'entasser avec une couverture de clickbait bien récompensée.

Au stade Rising Panic, la rhétorique dystopique attire davantage l'attention et balaie l'optimisme initial des consommateurs à l'égard d'un nouvel outil. L'écosystème médiatique devient tellement saturé de peurs exagérées que seules les affirmations les plus scandaleuses subsistent. Les peurs finissent par atteindre un sommet à la fin de l'étape Rising Panic : le comble de l'hystérie.

L'étape Deflating Fears commence lorsque le public adopte le nouvel outil et accepte ses mérites. À ce stade, il est clair que de nombreuses peurs ne se matérialiseront jamais. Perturbés par la popularité croissante des nouvelles technologies, les alarmistes continuent d'inciter à la panique mais ne parviennent pas à gagner du terrain comme auparavant. Des scandales ponctuels et des nouveautés provoquent des micropaniques, mais le public est désormais moins dupe. Le point pratique marque la fin de cette étape. La société intègre la nouvelle technologie, et les gens ne croient plus aux pessimistes.

L'apocalypse technologique n'arrive jamais. Au stade Moving On, les peurs antérieures sont exposées et ridiculisées (dans certains cas par les mêmes personnes qui ont donné l'alarme en premier.) L'article alarmiste de Wired en 2000, "Pourquoi l'avenir n'a pas besoin de nous", a été suivi huit ans plus tard par le plus mesuré, "Pourquoi l'avenir a encore besoin de nous encore plus longtemps". Les alarmistes ont tourné leur attention vers le dernier battage technologique brillant à ce stade. Les nouvelles paniques évincent les anciennes. Et le cycle se répète.

Les progrès technologiques ont entraîné des paniques technologiques pour les livres imprimés, le son enregistré et les films. L'invention de l'imprimerie et les progrès de la technologie du papier ont créé une panique technologique pour les livres imprimés ; l'invention du phonographe et d'un moyen de stocker le son de manière portable, comme le disque, a créé une panique technologique sur le son enregistré ; et les innovations dans la photographie et les matériaux cinématographiques ont créé la panique technologique pour les films. Et il en va de même avec l'IA générative : les progrès des algorithmes d'apprentissage automatique et de la capacité de calcul ont créé une panique technologique pour l'IA générative.

Ces outils créatifs (livres imprimés, sons enregistrés, films et IA générative) partagent trois traits. Tout d'abord, chacun a une gamme de fonctions. Le son enregistré, par exemple, est utilisé pour diffuser des informations, pour signaler des instructions ou comme musique de divertissement. Les livres imprimés contiennent de tout, des traités scientifiques et de la littérature classique aux œuvres pornographiques et aux vils appels au génocide. Deuxièmement, chacun présente au public de nouveaux types de contenus. Les films, par exemple, ont donné vie à des scènes et à des décors indisponibles grâce à des photographies fixes ou à des récits écrits. Troisièmement, chacun élargit considérablement la disponibilité du contenu en perturbant son prix de production. De nouvelles formes moins chères de contenu littéraire, par exemple, sont apparues lorsque le prix de l'impression des livres a chuté.

À chaque panique, une innovation dans le secteur créatif facilite grandement la production de nouveaux contenus. Certaines personnes, en particulier les titulaires et les élites, ont tendance à craindre les implications de ce nouveau contenu et l'inquiétude atteint un point d'ébullition alors que les décideurs politiques et les alarmistes travaillent ensemble pour ralentir sa progression, les médias d'information étant incapables de résister au drame. Finalement, cependant, le public adopte les outils et passe à autre chose.

Les livres imprimés ont changé la façon dont les gens partagent l'information. En effet, l'imprimerie a facilité la production de masse de toutes sortes de documents écrits, y compris des livres, des journaux et des brochures. Avant son invention, le matériel écrit devait être imprimé ou copié à la main : un processus lourd et laborieux qui limitait la diffusion du savoir à une minorité qui pouvait se le permettre. Johannes Gutenberg a d'abord mécanisé le processus d'écriture au 14ème siècle, permettant de produire des copies de matériel écrit rapidement et à moindre coût.8

Au stade Trusting Beginnings, lorsque la presse à imprimer était d'un coût prohibitif, la classe alphabétisée clairsemée a accueilli l'outil comme un moyen de partager et de recevoir des connaissances - et les livres sont devenus un symbole de statut.9 Mais les moines, qui détenaient un monopole effectif sur les livres d'écriture, fretté. « Celui qui cesse de s'adonner à l'écriture à cause de l'imprimerie n'est pas un véritable amoureux des Écritures », déclarait l'abbé du XVe siècle Johannes Trithemius, défendant le travail des scribes contre ceux qui utilisaient la nouvelle technologie10. rare.

Mais les progrès de l'impression et de la technologie du papier ont conduit à plus de livres. L'Europe, par exemple, imprimait plus au XVIIIe siècle qu'au cours des trois précédents réunis11. Le XIXe siècle a connu des avancées encore plus importantes en matière d'innovation : le nombre de pages pouvant être imprimées par heure est passé de 480 au début du siècle à 2 400 quelques décennies seulement. plus tard (jusqu'à 90 000 à la fin du siècle)12. Ces progrès ont fait chuter le prix des livres et suscité des inquiétudes quant à l'effet de l'imprimerie sur la société. Comme le déplorait le poète et critique littéraire anglais Samuel Taylor Coleridge dans son influente Biographia Literaria (1817), « [L] a multitude de livres et la diffusion générale de la littérature ont produit d'autres effets plus lamentables dans le monde des lettres » ; que les livres autrefois respectés comme des « oracles religieux » se sont « dégradés en coupables pour lever la main à la barre de tout juge… élu »13. familières à l'ère d'Internet - se sont propagées rapidement et ont marqué le point de panique.

Au fur et à mesure que l'utilisation de l'imprimerie proliféra, beaucoup se préoccupèrent particulièrement de la lecture de romans. « Dans la création de fiction, nous pourrions perdre l'amertume et la stérilité de la vérité ! se lamentait un auteur du début du XIXe siècle, Sinclair Hamilton, tandis que l'Augusta Herald prévenait que les romans conduisaient les gens dans « un pays enchanté… Ils corrompent tous les principes14 ». La capacité à générer du contenu si librement dérangeait les alarmistes.

Au cours de l'étape Rising Panic, la Chronique de Saint James (1822) déplore que les "écrivains débauchés" séduisent "un plus grand nombre de libraires dans la publication de livres d'une mauvaise tendance", et le Leicestershire Mercury met en garde contre la distribution facile des romans. en 1847 : « La multitude des livres est un grand mal. Il n'y a ni mesure ni limite à cette fièvre d'écrire ; chacun doit être auteur ; les uns par vanité, pour acquérir la célébrité, et se faire un nom ; les autres pour la dans un souci de lucre et de gain. »15 En 1889, l'alarmiste académique et génératif de la technologie John Meiklejohn a prononcé un discours, « Literature versus Books », dans lequel il a proclamé que « la maladie de l'époque était la distraction, la hâte, l'intérêt pour beaucoup trop de choses. , avec pour conséquence une indigestion mentale et un état d'esprit confus."16 La crainte qu'il y ait trop de contenu largement disponible, en raison des progrès de la technologie, préfigure chaque panique technologique ultérieure.

Et comme pour de nombreuses paniques technologiques, les alarmistes ont fait des proclamations fantaisistes sur la subversion de la jeunesse. Les progrès technologiques ont donné naissance à un nouveau genre de romans bon marché - les "romans à dix sous", la "littérature flash" ou la "pulp fiction" - qui ont fait monter l'hystérie. Dans son essai, Concernant le poison imprimé (1885), l'éminent écrivain Josiah W. Leeds a noté «l'effet pervers de la« littérature flash »» sur la jeunesse: son «influence épouvantable et pernicieuse des romans bon marché qui abondent parmi nous», et ces bibliothèques publiques "ont faiblement succombé à l'envie de fiction, au point même de fournir des ouvrages vulgaires, insipides et souvent immoraux"17.

À ce moment, seules des revendications scandaleuses pouvaient survivre. Comme le montre la figure 2, les critiques tenaient les romans pour responsables d'homicides, de suicides et de « sentiments dépravés »18. , ce qui l'a conduite au suicide. Mais, affirme le journal, ce n'est pas l'austérité de son père qui lui a causé de l'angoisse, ni une maladie mentale, mais plutôt des "romans sentimentaux". Pendant ce temps, le Boston Globe a écrit en 1884 une histoire sur deux garçons de 14 ans qui avaient déserté leur maison après avoir lu des romans à dix cents, et le Saint Paul Globe a publié un article sur "Dime Novel Victims" pour décrire un cas où un 11- Un an a été envoyé à « l'asile des aliénés » pour avoir répété des lignes d'un roman qu'il était en train de lire19. est-ce que votre garçon lit ?" prévenait le journal20. Cette période d'inquiétude marqua le comble de l'hystérie.

Figure 2 : L'apogée de l'hystérie, 1863-189721

Cependant, à mesure que les taux d'alphabétisation augmentaient et que les prix des livres continuaient de baisser, l'hystérie entourant les romans a commencé à s'atténuer. De nombreuses craintes, favorisées par la diffusion des connaissances scientifiques, ont été considérées comme fausses et les autorités ont finalement admis que les livres n'étaient pas responsables des maux sociaux.22 Au début du XXe siècle, les alarmistes ont dû recourir à des préoccupations moins intéressantes, telles que comme les dangers de la « lecture au lit » plutôt que des romans en eux-mêmes23. Finalement, même les alarmistes ont admis que les romans avaient beaucoup plus d'effets positifs que négatifs. En 1952, le Vancouver Sun déplorait qu'un tiers des enfants britanniques ne savaient pas lire, blâmant "les films, la télévision, la radio".24

Bien que la scène Moving On soit apparue, des peurs persistantes ont persisté et des aversions ont refait surface avec des innovations ultérieures dans les documents écrits. Par exemple, au 21e siècle, l'industrie de l'édition héritée a dénoncé les livres électroniques comme « un produit stupide », se plaignant de son manque de créativité.25

Le son enregistré a changé à jamais le plaisir de la musique, car il est devenu moins cher d'écouter, de produire, de distribuer et de partager. Des appareils capables d'enregistrer du son sont apparus au milieu du XIXe siècle et, après l'invention de Thomas Edison en 1877, à la fin, des phonographes commercialement viables ont commencé à être vendus au grand public26. analphabète ou aveugle.27

Cela signifiait que la musique pénétrait dans les foyers d'une manière inimaginable auparavant - et, au tournant du siècle, les alarmistes ont commencé à en prendre note. Le New York Times a averti en 1878 que de tels appareils d'enregistrement censureraient les maisons - "Qui serait prêt, même au sein de sa famille, à exprimer autre chose que les opinions les plus anodines et les plus incolores?" Monsieur Edison… on est de plus en plus convaincu qu'il faut le faire avec une corde de chanvre.

Mais les améliorations dans les techniques d'enregistrement ont rapidement changé cela et une nouvelle race d'artistes a émergé qui tirait entièrement ses revenus des disques. Ces changements ont provoqué le point de panique. Dans son essai de 1908 intitulé La menace de la musique mécanique, le compositeur américain John Philip Sousa a déploré que le son enregistré dégrade l'habileté de la musique - "Chanter ne sera plus un bel accomplissement" - et sa qualité pour nuire à la romance, décourager l'étude et même entrée engourdissante à la guerre. 29 Ces préoccupations exagérées détournent malheureusement l'attention de questions plus légitimes que Sousa a soulevées dans l'essai, telles que la question de savoir si la reproduction de la composition d'un artiste « mille fois sur ses machines » viole les droits de propriété intellectuelle de l'artiste.30

Au cours de la scène Rising Panic, l'industrie de la musique héritée a commencé à s'inquiéter. En 1930, l'American Federation of Musicians (AFM), un syndicat, se plaignit en vain auprès de la Commission fédérale de la radio pour limiter la diffusion de disques à l'antenne.31 que nulle part « à l'âge mécanique l'ouvrier ne crée la machine qui le détruit, mais c'est ce qui arrive au musicien lorsqu'il joue pour un enregistrement32 ». L'introduction du son dans les films lors de la création de The Jazz Singer en 1927 puis du juke-box vers 1932 - capable de remplir les hôtels, les restaurants et les bars de musique moins chère - a fait monter les craintes. Le New York Times rapporta en 1928 que "les musiciens organisés du monde entier s'efforcent d'ériger des barrières contre l'épidémie de chômage".33 Des lettres au journal cette année-là ont également relayé des inquiétudes quant au fait que les enregistrements dégradaient la qualité de la musique.34

Une inquiétude plus pernicieuse durant cette période était l'impact du son enregistré sur la morale de la société. Puisque la découverte de la musique ne se limitait plus à ce qui passait à la radio, le public pouvait rechercher et partager de la musique - c'est devenu une entreprise créative. Ainsi, les consommateurs, en particulier les jeunes, ont découvert des genres entièrement nouveaux et de nouvelles formes de contenu qui concernaient leurs parents, d'une manière qui reste familière aujourd'hui. Le jazz était particulièrement blâmable. Une série de coupures de journaux pendant les premières années du phonographe révèle un environnement d'affirmations scandaleuses sur le jazz, un genre musical nouvellement accessible : "Jazz Music Blamed for Delinquency of Girls Today" (1922), "Jazz Blamed For Large Number Of Deaths By Suicide" (1924), "Jazz Blamed For Murder" (1926) et "Jazz Blamed for Bodily Ailments" (1927)35. était responsable de la carie dentaire.36 Il ne fait aucun doute que cette panique technologique a accompagné et alimenté une panique raciale à propos de la musique noire corrompant la société.37 La campagne de peur autour du contenu musical a aggravé les inquiétudes concernant les pertes d'emplois et la dégradation des compétences, et a marqué le paroxysme de l'hystérie.

Au fil des ans, cependant, le public a continué à assimiler les sons enregistrés dans sa vie quotidienne. Une étude de 1942 portant sur 796 stations de radio aux États-Unis montre que 55,9 % du temps de radio consacré à la musique était enregistré38. des angoisses exagérées subsistaient. Aux États-Unis, l'AFM soutenait que « l'utilisation commerciale sans restriction des disques » restait une menace pour l'emploi des musiciens39. Et en 1942, le syndicat avait interdit à ses artistes et ingénieurs d'enregistrer de la musique, envoyant une onde de choc à travers les États-Unis Royaume-Uni, le syndicat des musiciens a détaillé dans son rapport sur les délibérations de la Conférence des délégués de 1945 "limiter la mesure dans laquelle les disques de gramophone peuvent être utilisés pour le divertissement public".41

Cependant, à ce jour, le public avait adopté la technologie : un sondage a révélé que 73 % des Américains souhaitaient que des poursuites judiciaires soient intentées contre le syndicat.42 Ainsi, à la suite d'une audition avec le Comité sénatorial sur le commerce inter-États, le syndicat a accepté de lever l'interdiction d'enregistrement. en échange de redevances pour les membres.43 Par la suite, les peurs se sont estompées et la scène Moving On a commencé.

De nouvelles innovations dans le son enregistré ressuscitent de manière fiable des paniques similaires. L'essor de la musique numérique dans les années 1970, et en particulier du disco, l'un des premiers genres pop conçus pour les clubs, a suscité la crainte familière que les musiciens en direct soient bientôt sans emploi44. La technologie musicale, comme les séquenceurs (machines qui éditent et lecture de musique) et les boîtes à rythmes, sont intrinsèques aux caractéristiques répétitives du disco - pensez au disque disco classique, "I Feel Love" de Donna Summer. Mais la dépendance du disco à la technologie plutôt qu'à la musique live, et ses caractéristiques mécaniques et industrielles, ont dérangé les musiciens classiques. 45 Pire que tout, le disco était populaire. Les discothèques et les salles de danse étaient considérées comme une menace pour ceux qui jouaient en direct. Mais les campagnes qui répondaient à la menace perçue des disques disco, telles que la campagne Keep Music Live, semblent malavisées aujourd'hui.46 Les revenus de la musique live aux États-Unis éclipsent désormais ceux des années 1970.47 Au lieu de saper l'industrie, la technologie numérique a engendré de nouvelles catégories de musique comme la musique de danse électronique (EDM), et un nouveau type d'interprète en direct : le "disc jockey" (DJ). Pour l'essentiel, la musique enregistrée est devenue une forme d'art largement acceptée et célébrée, ce qui prouve que les craintes initiales concernant les nouvelles technologies sont souvent exagérées.

Au tournant du XXe siècle, une nouvelle merveille technologique balayait l'Europe : l'invention du cinéma. Des images en mouvement projetées sur un grand écran ont permis aux gens de faire l'expérience de la narration visuelle comme jamais auparavant, et les films sont devenus un média avec un public de masse, attirant les lettrés et les analphabètes, les adultes et les enfants.48 Au Royaume-Uni, les foules hebdomadaires dans les cinémas de 7 millions en 1914 à 21 millions en 1917, éclipsant toute autre forme de divertissement pour les spectateurs.49 Aux États-Unis, le nombre de nickelodéons – de simples théâtres qui facturaient 5 cents chacun aux spectateurs – a doublé en 1908 et, en 1910, environ 26 millions Les Américains les fréquentaient chaque semaine50. Entre 1911 et 1918, un tiers des New-Yorkais allait au cinéma une fois par semaine ; dans certaines villes, les résidents s'y rendaient en moyenne plus d'une fois par semaine51.

Les progrès technologiques dans les caméras, les pellicules et les projecteurs signifiaient que les films pouvaient être plus beaux et plus longs. Le cinématographe, par exemple, était une caméra-projecteur portable qui a fait évoluer la production cinématographique, car les scènes pouvaient être tournées avec une plus grande variété de lieux, de méthodes et de distribution, et les films pouvaient être projetés dans des salles de toutes tailles à des publics de toutes tailles. , leur permettant de devenir populaires dans le monde entier.52 Le Latham Loop, inventé à la fin du XIXe siècle et encore utilisé aujourd'hui, enfilait soigneusement le film et signifiait que des films autrefois limités à une affaire de secondes pouvaient devenir des longs métrages. .53 Mais le réalisme des films agace les alarmistes. En 1896, un mythe s'est répandu selon lequel un public parisien était tellement convaincu qu'un train en noir et blanc s'approchait d'eux que la foule a paniqué et une bousculade s'en est suivie.54

On craignait de plus en plus que ces nouveaux longs films narratifs, rendus possibles par la technologie, n'influencent indûment le public et ne corrompent ses valeurs. Les puristes autrefois préoccupés par la lecture craignaient maintenant les films géants et réalistes qui encourageaient les comportements immoraux. Dans une lettre adressée au ministère de l'Intérieur du Royaume-Uni en 1916, l'épouse de Bramwell Booth, auteur et alors général de l'Armée du Salut, a averti que les films étaient "plus puissants" que la "littérature indésirable" et leur influence "plus durable et durable". 55 Les responsables français étaient également concernés : « Les scènes de meurtre, d'homicide, de suicide, de vol, de sabotage, d'activités criminelles et d'attentats, sont [sic] trop souvent marquées par une volonté de réalisme qui a conduit à n'exclure aucun détail, cependant choquant."56

Alors que la panique montait en Europe, le ministre danois de la justice légitima ces craintes en 1907 en instruisant les chefs de la police locale : "Cinémas, cosmoramas et établissements similaires, y compris les théâtres de variétés, (montrant) des images qui peuvent être considérées comme offensantes soit moralement, soit par la manière dont l'exécution d'un crime est montré ou qui, par leur nature, sont susceptibles de corrompre leur auditoire et surtout les jeunes qui sont présents en grand nombre. »57

John Collier, membre du National Board of Censorship des États-Unis dans les années 1910, déclare à propos des petites salles de cinéma : « C'est un mal pur et simple, destructeur d'échanges sociaux, et d'effet artistique58. » En 1921, les responsables du Var de France a publié un édit sur le cinéma, qui comprenait "certains acteurs de ces scènes [qui] apparaissent comme un genre particulier de héros qui donne à la représentation le caractère d'une véritable justification d'actes criminels ; considérant que les cinémas sont très fréquentés par de jeunes considérant que l'ordre et la tranquillité publics ne peuvent être maintenus, pas plus que la moralité, avec cette incitation continuelle de la jeunesse à des exploits malsains. »59

L'effet de ce contenu sur les jeunes a été largement exagéré et a servi à dénigrer et à fréquenter les jeunes. Cela a précédé les paniques modernes à propos de la violence dans les jeux vidéo - où les études ne montrent que des effets extrêmement faibles (en moyenne de 0,4 % à 3,2 %) liant la violence dans les jeux vidéo à un comportement agressif mineur, tout en détournant l'attention des principales causes de la violence chez les jeunes : disparités éducatives, la maladie mentale et la pauvreté60. Néanmoins, les préoccupations concernant les classifications d'âge et les avertissements appropriés pour le contenu ont du mérite et restent d'actualité aujourd'hui. Malheureusement, des préoccupations moins légitimes sont rapidement apparues.

Faisant écho aux perceptions des «romans à dix sous», les images animées étaient initialement considérées comme «lowbrow» - une forme de divertissement bon marché pour la classe ouvrière plutôt que pour les sophistiqués ou les artistes61. " remplir le cinéma et juste " s'asseoir et s'amuser ", tandis que Church Times a également mis en garde contre la paresse de la nouvelle génération : " Si Waterloo a été gagné sur les terrains de jeu d'Eton - quel succès dans les batailles futures sera dû aux performances du palais de l'image "62 Des médecins et des travailleurs sociaux aux États-Unis ont averti que les théâtres provoquaient "une sorte d'étourdissement, de "bon à rien", de manque d'énergie ou d'appétit."63

Figure 3 : Panique croissante, 1912-192064

Les préoccupations concernant les images animées ont atteint leur paroxysme dans les années 1920. Au plus fort de l'hystérie, les politiciens étaient tellement convaincus que les images animées menaçaient la société qu'ils ont commencé à réglementer fortement leur contenu. Aux États-Unis, le Motion Picture Production Code exigeait que les films encouragent la bonne conduite, respectent l'État et défendent les « valeurs chrétiennes ».65 Le British Board of Film Censors (BBFC), créé en 1913, avait deux règles : non. nudité et aucune personnification du Christ - mais, en 1926, il en avait sept, y compris des "questions de sexe" et de "crime". est allé au-delà de la politique du BBFC en interdisant Scarface en 1932.67

Finalement, le vent a commencé à tourner. Comme pour les "romans à dix sous", l'influence de ce nouveau contenu a été largement surestimée. Les maux sociaux étaient considérés comme une conséquence de la société, et non de la technologie. Une étude influente de l'effet du film sur les enfants intitulée Our Movies Made Children (1935) conclut :

Les films cinématographiques, vieux d'à peine une génération dans notre expérience, se sont révélés être l'une de ces inventions nécessaires de l'humanité dont l'absence ou la suppression de notre civilisation est désormais pratiquement impensable. Au mieux, ils portent un potentiel élevé de valeur et de qualité dans le divertissement, dans l'instruction, dans les effets souhaitables sur les attitudes mentales et les idéaux, deuxièmement, peut-être sur aucun support que nous connaissons actuellement. Qu'au pire ils portent les possibilités opposées s'ensuit comme un collier naturel.68

Plutôt que de corrompre la jeunesse, certains alarmistes devenus enthousiastes voyaient dans la nouvelle forme de divertissement un moyen pour la jeunesse de résister à la délinquance des rues. Le ministre britannique de l'Intérieur, Herbert Samuel, a déclaré en 1916 que « l'augmentation récente de la délinquance juvénile est, dans une large mesure, due à des films cinématographiques démoralisants », mais, en 1932, le ministre de l'Intérieur, toujours en activité, a déclaré au Parlement britannique que « dans l'ensemble, le cinéma conduit plus à la prévention du crime qu'à sa perpétration... En général, l'opinion du ministère de l'Intérieur est que si le cinéma n'avait jamais existé, il y aurait probablement plus de crime qu'il n'y en a plutôt qu'il n'y en a moins."69

Bien que la société soit sortie de cette panique, les craintes concernant l'impact des films sur la société ont refait surface avec de nouvelles innovations. Par exemple, il y a eu la panique de la "vidéo méchante" au Royaume-Uni dans les années 1980, où la prolifération des vidéos domestiques, permise par la cassette vidéo et le matériel de tournage à bas prix, était considérée par beaucoup comme une menace pour l'ordre social. 70 Au plus fort de la panique, lorsque le Daily Mail a publié le titre « Ban video sadism now » et décrit le « Rape of our children's minds », le parlement britannique a rendu illégale la fourniture d'une vidéo que le British Board of Film Classification avait non approuvé. Les lois sur la censure ont depuis été assouplies, et bon nombre des soi-disant «méchants» semblent apprivoisés aujourd'hui.71 Malgré les micropaniques qui ont suivi, les films cinématographiques sont monnaie courante aujourd'hui et les films sont acceptés par les masses. En effet, une grande partie du monde porte désormais un lecteur de films cinématographiques dans sa poche.

Quatre éléments restent influents dans toutes les paniques technologiques : l'élitisme, les industries héritées, les croisés antitechnologiques et les médias d'information.

Ce qui est souvent si scandaleux dans les nouvelles technologies, c'est leur accessibilité au grand public. Dans les industries créatives traditionnelles, seules certaines élites peuvent produire et créer. L'innovation perturbe le statu quo et démocratise le domaine, suscitant l'indignation et le mépris de l'élite. Les "dime-romans" américains, les "feuilleton" français ou les "penny dreadfuls" britanniques - termes désignant une gamme de littérature et de magazines abordables - racontaient souvent des histoires de la classe ouvrière, élevaient des protagonistes de la classe ouvrière et étaient populaires parmi la classe ouvrière. .72 The Wild Boys of London était un feuilleton classique de la classe ouvrière de l'époque, suivant les "aventures d'enfants pauvres exclus".73 Les élites considéraient qu'une telle littérature provoquait la "démoralisation" de la classe ouvrière.

Figure 4 : Les « Wild Boys de Londres », 1864–186675

De même, aux États-Unis, on disait que les nickelodéons occupaient « l'espace physique et psychique de la vie urbaine dans la rue 76 ». être le "lieu de divertissement des pauvres"77. C'est ainsi qu'un ecclésiastique méthodiste a décrit sa première visite au cinéma, tandis qu'un autre ministre a comparé de manière désobligeante les cinémas à « des tonnes de littérature sale ».78 Les consommateurs d'élite luttent constamment pour faire face à la démocratisation des technologies.

Les nouvelles technologies représentent une opportunité pour les critiques professionnels de la technologie - ceux dont le métier repose sur une perception du danger - d'intensifier les peurs. The English Review , un magazine littéraire des années 1920, jouait devant son public en attisant les feux sur l'impact des films cinématographiques. Il a déclaré à propos du cinéma en 1922 : « C'est peut-être la plus grande puissance de propagande jamais inventée. Il a pratiquement entraîné l'Amérique dans la guerre. »79

De nombreux croisés modernes sont investis dans la collecte de fonds pour le plaidoyer alarmiste ou la vente de livres aux titres provocateurs tels que Who Owns the Future, Weapons of Math Destruction, Algorithms of Oppression et Surveillance Capitalism. D'autres croisés sont appelés "Prodigal Tech Bros": "des cadres de la tech qui connaissent une sorte d'éveil religieux. Ils voient soudain leurs anciens employeurs comme toxiques et se réinventent en experts pour apprivoiser les géants de la tech."80 Et l'alarmisme est un business lucratif. aussi. Le doomer de l'IA Eliezer Yudkowsky, qui a prédit la Singularité - la fin de l'humanité due à l'arrivée d'une intelligence artificielle surhumaine - d'ici 2021, a créé une organisation à but non lucratif qui a reçu près de 15 millions de dollars de subventions de 2016 à 2020 de la part d'Open Philanthropy.81 une industrie antitech florissante qui doit se maintenir en activité en s'accrochant aux technologies les plus récentes et les plus performantes et en colportant des récits de peur.

Les alarmistes technologiques et les médias partagent une affection pour les images dystopiques. Pour les deux, cela contribue à leur objectif d'attirer davantage l'attention. Pour les médias d'information, il répond également au désir artistique d'un écrivain. Une fois que les médias ont eu vent de la panique pour la première fois, cela devient un jeu de surenchère : plus les affirmations sont farfelues, mieux c'est. "Les humains" pourraient disparaître "lorsque des robots "surhumains" maléfiques se lèveront comme The Terminator" du Daily Star était aussi clair qu'imbattable.82

Malheureusement, même les journaux grand format tels que le New York Times succombent au frisson des paniques technologiques. Par exemple, ses titres utilisaient un langage moral pour décrire la technologie de l'époque : romans (The Evils of Dime Novel Literature [1879]) et films cinématographiques (Censors Destroyed Evil Picture Films [1911])83. lectorat en 2023 que Bing AI, un chatbot propulsé par l'IA générative, était vivant et amoureux de son journaliste.84 Compte tenu de l'influence des médias d'information sur l'attitude du public à l'égard de la technologie, ils jouent un rôle crucial dans une panique atteignant le paroxysme de l'hystérie. Mais une grande partie de la couverture médiatique de la technologie est défavorable, parfois motivée par des décisions éditoriales explicites descendantes.85 En effet, les gros titres critiques à l'égard de la technologie sont devenus courants au cours des dernières décennies, car la couverture médiatique globale de la technologie est devenue plus négative.86

Au cours des dernières années, une nouvelle technologie est apparue qui a commencé à changer la façon dont les gens créent du contenu : l'IA générative. De nouveaux modèles d'apprentissage automatique peuvent produire du texte, des images et même de la musique à partir d'une simple entrée humaine. Ces outils offrent aux consommateurs et aux entreprises des moyens novateurs et productifs de créer, d'échanger des idées et de s'amuser. Ils sont également peu coûteux et largement disponibles, ce qui crée un effet démocratisant dans les secteurs où les barrières à l'entrée sont élevées.

Proposés pour la première fois par Ian Goodfellow en 2014, les réseaux antagonistes génératifs (GAN) utilisaient des réseaux de neurones en duel pour générer des images87. deepfakes.88 Plus tard, les deepfakes du président russe Vladimir Poutine et du dirigeant nord-coréen Kim Jong-Un sont devenus viraux, attisant les craintes de désinformation.89

Mais les craintes sont généralement restées faibles et beaucoup étaient enthousiasmés par les possibilités de l'IA générative. VentureBeat a écrit avec optimisme en 2018 sur le générateur de musique de Google et le potentiel de l'IA générative.90 Et Forbes en 2020 a écrit sur les possibilités de combler les lacunes en matière de compétences en aidant par exemple les jeunes ingénieurs à créer rapidement des conceptions qui auraient autrement pris des années ou des essais et des erreurs. .91

Puis sont venus les modèles de diffusion, introduits pour la première fois en 2015 et rendus largement disponibles d'ici la fin de 2022, qui pouvaient générer des images en corrompant et resynthétisant les images.92 Les modèles de diffusion dépassaient les GAN en termes de rentabilité et de sophistication et pouvaient générer de nouvelles images à partir de simples invites textuelles. Lorsqu'un artiste a utilisé un outil pour remporter un concours d'État en 2022, cela a fait émerger des angoisses et marqué la panique précoce. Peu importe le modeste prix, le New York Times a déclaré : "L'art généré par l'IA a remporté un prix d'art. Les artistes ne sont pas contents." Ceux qui ont un accès privilégié à l'outil ont mis en garde contre sa "sortie dérangeante", le Spectator titrant "J'ai vu l'avenir de l'art de l'IA - et c'est terrifiant". et que les gens se désintéresseraient de leur travail. Les artistes ont lancé un mouvement de protestation avec des slogans tels que « Les artistes contre l'IA » et « Non à l'art de l'IA ». "95

L'année 2022 a également vu l'émergence de la nouvelle génération de chatbots, construits sur de grands modèles de langage (LLM). Les LLM sont des modèles d'apprentissage automatique qui génèrent du texte à partir d'ensembles de données massifs. Les technologues et les chercheurs ont noté les risques liés aux LLM, y compris la désinformation, les préjugés et le contenu préjudiciable, et les approches possibles pour les atténuer, y compris le filtrage des données et l'automatisation de la découverte des dommages par « équipe rouge » (génération de cas de test pour trouver et évaluer les cas où le modèle ratés.)96 Mais ensuite, un employé de Google a affirmé que le chatbot, alimenté par l'IA générative, avec lequel il parlait était devenu sensible.97 Cette affirmation scandaleuse a rapidement évincé toute discussion sérieuse sur des préoccupations légitimes. Thomas Dietterich, ancien président de l'Association pour l'avancement de l'intelligence artificielle, a proposé de redéfinir la sensibilité pour mieux inclure les machines.98 Et, avant que l'employé de Google ne soit finalement licencié, The Economist a invité un autre ingénieur de Google à expliquer pourquoi progrès vers la conscience."99

Comme pour les paniques précédentes, la ferveur autour de la panique générative de l'IA était fonction de la popularité et de la disponibilité du nouvel outil. En atteignant 100 millions d'utilisateurs en deux mois, ChatGPT, un chatbot d'IA génératif destiné au public, est devenu le produit de consommation le plus populaire de l'histoire.100 La capacité de l'IA générative à produire une variété presque illimitée de contenu a provoqué une frénésie chez les alarmistes. Les médias d'information se sont empilés avec une flopée de sensationnalisme :

Certains points de vente qui étaient auparavant pondérés ne pouvaient pas risquer de manquer de profiter de l'économie de la peur. MIT Technology Review jaillissait que GPT-3, un LLM, était "étonnamment bon" et "peut générer un texte étonnant de type humain à la demande."106 Mais, au milieu de toute la manie à la fin de 2022, le même magazine a publié un article intitulé "Comment le texte généré par l'IA empoisonne Internet".107 Dans d'autres cas, les perspectives sombres semblent être dupliquées des paniques précédentes. Le Brussels Times a rapporté qu'un homme s'était suicidé après avoir parlé à un chatbot, impliquant dangereusement un lien de causalité entre l'IA générative et le suicide, et répétant les affirmations faites pendant la manie du 19ème siècle autour de la lecture de romans.108

Au stade de Rising Panic, des affirmations trompeuses sur l'endroit où les technologues utilisaient l'IA générative - et qui pouvait même le dire - ont alimenté les inquiétudes. Par exemple, les alarmistes ont affirmé que Bing AI produisait du contenu préjudiciable là où Bing AI n'était pas réellement utilisé.109 excellente attention et réponses, cela déforme le fonctionnement de ces outils - les LLM ne représentent pas la pensée consciente mais plutôt les données perroquet auxquelles ils ont été exposés.111

En ce moment, les critiques professionnels de la technologie ne peuvent pas rater leur chance. Dans un éditorial conjoint, l'auteur Yuval Noah Harari et l'ex-technologue Tristan Harris ont écrit un article extravagant pour le New York Times qui comprend des proclamations telles que "En maîtrisant le langage, l'IA s'empare de la clé maîtresse de la civilisation, de la banque voûtes aux saints-sépulcres », et prédisant : « D'ici 2028, la course présidentielle américaine pourrait ne plus être dirigée par des humains. »112 De telles affirmations servent leur objectif : semer la peur dans la société. Réfléchissant aux nouveaux outils d'IA générative, le linguiste bien connu Noam Chomsky a averti que "l'apprentissage automatique dégradera notre science et dégradera notre éthique", mais a utilisé des exemples trompeurs de la technologie.113 Par exemple, il a écrit que les prédictions des outils d'IA générative "toujours être superficiel et douteux" parce qu'ils ne comprennent pas la syntaxe. Pour prouver cette affirmation, il a déclaré que les chatbots IA interpréteront une prémisse telle que "John est trop têtu pour parler" comme signifiant que John refuse de parler aux autres - et le système ne verra pas l'interprétation alternative : que John, lui-même , est trop têtu pour que les autres l'approchent. Si cela est vrai, a-t-il soutenu, le système ne parvient pas à comprendre la syntaxe, jugeant ainsi la compréhension de ces outils "superficielle". Mais, en fait, ChatGPT reconnaît à la fois :

L'expression « John est trop têtu » signifie que John ne veut pas changer d'avis ou de comportement, même s'il peut y avoir de bonnes raisons de le faire. L'entêtement peut être considéré comme un trait négatif lorsqu'il empêche une personne d'être flexible, de faire des compromis ou de s'adapter à de nouvelles situations. Il peut également être difficile pour les autres de travailler ou de communiquer avec cette personne, surtout s'ils ne sont pas disposés à envisager des perspectives ou des solutions alternatives.114

En fin de compte, les arguments selon lesquels l'IA "dégradera notre science et dégraderont notre éthique" reposaient sur de fausses affirmations concernant la technologie. La diffusion d'informations erronées sur ces outils alimente les spéculations sur leur potentiel et détourne l'attention des préoccupations fondées sur des risques réels plutôt qu'imaginaires, tels que les nouvelles menaces de cybersécurité, y compris les deepfakes, et les nouvelles considérations de propriété intellectuelle.115 Cette confusion s'est également propagée parmi les décideurs politiques. Le sénateur américain Christopher Murphy a affirmé en 2023 que "ChatGPT a appris par lui-même à faire de la chimie avancée. Il n'a pas été intégré au modèle. Personne ne l'a programmé pour apprendre une chimie compliquée. Il a décidé de s'auto-apprendre, puis a mis ses connaissances à la disposition de quiconque le demandait. Quelque chose arrive. Nous ne sommes pas prêts. »116 Mais ChatGPT n'a pas - et ne peut pas - choisir de s'enseigner quelque chose et n'a pas appris les règles de la chimie, au lieu de cela, il a simplement répété les écrits préexistants à ce sujet.

Là où des risques légitimes existent, comme le potentiel de désinformation, les craintes sont néanmoins exagérées. Gordon Crovitz, co-directeur général de NewsGuard, a déclaré à propos de ChatGPT : "Cet outil va être l'outil le plus puissant pour diffuser de la désinformation qui n'ait jamais existé sur Internet... c'est comme si des agents de l'IA contribuaient à la désinformation."117 Si ChatGPT est un outil puissant pour les humains infâmes, ce ne seront pas des "agents de l'IA" eux-mêmes produisant de la désinformation, même si le bot dit parfois des choses incorrectes. Pendant ce temps, les craintes d'un chômage de masse imminent sont hyperboliques. En mars 2023, Vice Media a titré : « OpenAI Research Says 80% of US Workers' Jobs Will Be Impacted by GPT. leurs tâches professionnelles affectées. »119 Ce titre accrocheur a servi de sifflet aux alarmistes.120

Au moment d'écrire ces lignes, la panique à propos de l'IA générative semble être au stade de Rising Panic, pas encore au sommet de l'hystérie. Typique à ce stade, les décideurs politiques désireux de rester pertinents ont commencé à légitimer les craintes. Au début de 2023, par exemple, les législateurs de l'UE ont répondu à la panique en rédigeant des amendements sur mesure dans la loi de l'UE sur l'IA pour l'IA générative, proposant en fait une nouvelle catégorie pour considérer les générateurs de texte à texte comme "à haut risque". Cette approche trahit l'approche originale du projet de loi consistant à répartir les risques en fonction des cas d'utilisation et non des technologies. Le fait que l'IA générative ait été placée dans une catégorie « autre » parmi les catégories établies telles que l'emploi, l'éducation et les services publics est une mise en accusation dangereuse de la façon dont l'élaboration de politiques ad hoc se généralise au milieu d'une panique.121 Puis, en mars, l'autorité italienne de protection des données a pris la mesure sans précédent d'interdire ChatGPT, devenant ainsi le premier pays occidental à le faire.122 envisagent des démarches similaires.123

Alors que la panique générative de l'IA se dirige vers l'hystérie, plus de 25 000 alarmistes, dont les technologues Elon Musk, Gary Marcus et Steve Wozniak, ont signé une lettre pour suspendre le développement de l'IA. (En un mois, Elon Musk avait créé un laboratoire d'IA rival pour produire son propre LLM, ce qui remet en question si sa signature était simplement une tentative de ralentir la concurrence.)124 La lettre fait écho aux paniques précédentes dans le secteur créatif en demandant, « Devrions-nous développer des esprits non humains qui pourraient éventuellement être plus nombreux, plus intelligents, plus obsolètes et nous remplacer ? »125 Pourtant, des alarmistes plus ambitieux disent que la lettre ne va pas assez loin. Par exemple, Eliezer Yudkowsky a comparé le risque d'IA à une guerre nucléaire et a déclaré que "les gouvernements devraient être prêts à détruire un centre de données voyou par une frappe aérienne". Easterly, directeur de la Cybersecurity and Infrastructure Security Agency (CISA).127 Si cette analogie devait s'avérer valide, ce qui ne sera pas le cas, du moins pas de si tôt, une pause dans le développement de l'IA ne ferait que permettre aux adversaires d'aller de l'avant.

La panique générative de l'IA n'est que la dernière d'une longue série de paniques technologiques, dont beaucoup dans le secteur créatif. Tout comme pour les innovations précédentes dans le secteur créatif, l'adoption de l'IA générative se développe rapidement, offre une gamme de fonctions et permet aux gens de produire de nouveaux contenus. Et tout comme avec les technologies précédentes, cela provoque l'angoisse et la colère des alarmistes. Les paniques précédentes ont atteint un point d'ébullition – stimulées par la relation symbiotique entre les alarmistes et les médias d'information – et ont parfois débordé dans l'arène politique. Alors que la panique autour de l'IA générative entre dans sa phase la plus volatile, les paniques technologiques passées offrent aux décideurs trois leçons importantes.

L'incertitude et la peur peuvent faire croire à tort qu'une catastrophe est imminente. Le point n'est pas que toutes les préoccupations sont invalides. En effet, de nombreuses personnes dans le passé avaient des préoccupations légitimes concernant les nouvelles technologies, et les décideurs politiques devraient encourager des débats raisonnables sur les risques liés aux nouvelles technologies au sein du secteur privé, de la société civile et du milieu universitaire. Mais l'histoire des paniques technologiques dans les livres imprimés, les films et les enregistrements sonores révèle que de nombreuses peurs ne se sont jamais matérialisées. Ce n'est pas parce que leurs préoccupations ne se sont jamais concrétisées qu'il n'y avait aucun risque en premier lieu. Au lieu de cela, la société et les marchés se sont souvent adaptés pour atténuer les risques. Par conséquent, il incomberait aux décideurs politiques de reconnaître quand ils sont au milieu d'une panique technologique et de faire preuve de prudence lorsqu'ils digèrent des préoccupations hypothétiques ou exagérées concernant l'IA générative qui évincent la discussion de celles plus immédiates et valables.

Lorsqu'ils sont interrogés sur des prédictions apocalyptiques ratées du passé, les alarmistes se défendent souvent en invoquant l'exceptionnalisme, arguant que cette nouvelle technologie est unique et extraordinaire. En effet, les prophètes de malheur affirment souvent que « cette époque est différente » pour éviter d'être dépeints comme un autre Chicken Little.128 Mais comme le montrent ces exemples passés, les affirmations concernant l'IA générative sont tout sauf nouvelles. Les critiques oublient souvent le passé. Dans Social Dilemma, l'alarmiste de l'IA, Tristan Harris, a comparé les algorithmes des réseaux sociaux à l'invention du vélo : "Personne ne s'est fâché lorsque des vélos sont arrivés ; tout le monde s'est promené à vélo. Personne n'a dit : "Oh mon dieu, nous venons de ruiner Les vélos affectent les gens, les éloignent de leurs enfants. Ils ruinent le tissu de la démocratie. Nous ne pouvons pas dire ce qui est vrai. Nous n'avons jamais dit quoi que ce soit à propos du vélo."129

Mais Harris avait tort. Remarquablement, les gens ont fait des déclarations tout aussi farfelues dans les années 1800 et au début des années 1900 à propos des bicyclettes, les journaux accusant les bicyclettes de rendre les gens fous, de provoquer des maladies corporelles et de déranger les femmes.130

Les décideurs politiques doivent éviter de réagir de manière excessive aux craintes naissantes lors de la formulation de politiques afin d'éviter de nuire indûment à l'IA générative avec des lois et réglementations erronées. À cette fin, les décideurs politiques devraient suspendre toute nouvelle législation ou réglementation ciblant directement l'IA générative jusqu'à ce qu'ils atteignent la phase finale du cycle de panique technologique. Attendre jusqu'à ce point évitera que des craintes injustifiées ne dominent les débats politiques. Lorsque de nouvelles lois et réglementations sont nécessaires, elles doivent être ciblées sur les dommages réels, et non imaginaires, afin de trouver un équilibre qui protège les avantages de la technologie tout en répondant aux préoccupations légitimes, garantissant ainsi que l'IA générative continue d'être un outil précieux pour la société.

Pour cela, une prudence réglementaire s'impose. Certains pays, comme le Royaume-Uni, avancent déjà légèrement. Le cadre proposé pour réglementer l'IA reconnaît que la création d'une nouvelle législation pour l'IA générative est prématurée.131 En revanche, l'UE et la Chine ont proposé des mesures plus radicales. Dans l'UE, des membres du Parlement européen ont proposé des amendements de dernière minute à la loi sur l'IA pour traiter l'IA générative comme une technologie à haut risque, même si elle existe depuis près d'une décennie et n'apparaît pas dans l'évaluation d'impact de la Commission européenne pour la loi sur l'IA.132 De même, en Chine, le gouvernement a proposé des règles spécifiques pour l'IA générative afin de répondre aux craintes concernant la technologie.133 Et certains législateurs aux États-Unis ont fait valoir que le pays devait adopter de toute urgence de nouvelles lois pour réglementer cette technologie émergente. .134 Mais cibler l'IA générative dans une nouvelle législation, au milieu d'une panique, serait une erreur et conduirait probablement à des règles mal conçues.

L'IA générative a fait d'énormes progrès ces derniers mois, et ces progrès s'accompagnent d'espoirs et de craintes raisonnables quant à l'avenir. Bien que cette technologie ait un pouvoir et un potentiel énormes, elle n'est ni parfaite ni omnipotente. Ce n'est encore qu'une collection de code et de données sans émotions ni conscience. Roman à bien des égards, mais pas effrayant. Les décideurs politiques doivent se souvenir de l'histoire des paniques technologiques passées, reconnaître où se situe l'IA générative dans le cycle de panique actuel et rester calmes. Et cela signifie qu'il ne faut pas succomber à la précipitation pour réglementer l'IA avant tout le monde. Cela serait probablement de mauvais augure et entraînerait des occasions manquées pour la société.

Patrick Grady est analyste politique au Center for Data Innovation, spécialisé dans l'IA et la modération de contenu. Auparavant, il était chef de projet à la Commission Internet et a travaillé en stratégie à l'Institut européen d'innovation et de technologie. Patrick est titulaire d'une maîtrise en philosophie et en sciences politiques.

Daniel Castro est directeur du Center for Data Innovation et vice-président de la Information Technology and Innovation Foundation. M. Castro écrit et s'exprime sur une variété de questions liées aux technologies de l'information et à la politique d'Internet, notamment les données, la confidentialité, la sécurité, la propriété intellectuelle, la gouvernance d'Internet, l'administration en ligne et l'accessibilité pour les personnes handicapées. Son travail a été cité et cité dans de nombreux médias, dont le Washington Post, le Wall Street Journal, NPR, USA Today, Bloomberg News et Businessweek. En 2013, M. Castro a été nommé sur la liste de FedScoop des "25 personnes les plus influentes de moins de 40 ans dans le gouvernement et la technologie". En 2015, la secrétaire américaine au Commerce, Penny Pritzker, a nommé M. Castro au Conseil consultatif sur les données commerciales. M. Castro a précédemment travaillé comme analyste informatique au Government Accountability Office (GAO) où il a audité la sécurité informatique et les contrôles de gestion dans diverses agences gouvernementales. Il a contribué aux rapports du GAO sur l'état de la sécurité des informations dans diverses agences fédérales, notamment la Securities and Exchange Commission (SEC) et la Federal Deposit Insurance Corporation (FDIC). En outre, M. Castro a été chercheur invité au Software Engineering Institute (SEI) de Pittsburgh, en Pennsylvanie, où il a développé des simulations de formation virtuelles pour fournir aux clients une formation pratique sur les derniers outils de sécurité de l'information. Il est titulaire d'une licence en service extérieur de l'université de Georgetown et d'une maîtrise en technologie et gestion de la sécurité de l'information de l'université Carnegie Mellon.