MIDJOURNEY ATTAQUÉ par Disney : Le plus GRAND PILLAGE de l’histoire de l’art ? ⚖️

Et si je vous disais qu’en ce moment même, des milliers d’enfants risquent de confier leurs secrets les plus intimes à une intelligence artificielle déguisée en poupée Barbie ?

Le 12 juin dernier, Mattel a lâché une bombe en annonçant vouloir intégrer l’intelligence artificielle de ChatGPT dans ses jouets . Sur le papier, ça ressemble à de la science-fiction devenue réalité : une Barbie qui parle, qui apprend, qui s’adapte à votre enfant . Mais derrière cette promesse technologique se cache peut-être l’une des plus grandes expériences sociales jamais menées sur nos bambins.

Vous savez, on a déjà vécu ça il y a dix ans avec Hello Barbie, cette poupée connectée que la presse allemande avait surnommée « Barbie Stasi » . Elle avait fait un tel scandale qu’elle avait rapidement disparu des rayons . Aujourd’hui, Mattel remet le couvert, mais cette fois avec une IA mille fois plus puissante et plus persuasive.

Alors, révolution ludique ou manipulation d’enfants en bas âge ? Est-ce qu’on forme la prochaine génération ou est-ce qu’on la formate ? Restez jusqu’à la fin, parce que ce qu’on va découvrir ensemble va probablement changer votre regard sur l’invasion de l’IA dans nos foyers.

LE RETOUR DE LA POUPÉE ESPIONNE

Pour comprendre l’ampleur du problème, il faut d’abord se rappeler d’où on vient. En 2015, Mattel avait déjà tenté le coup avec Hello Barbie, une poupée connectée capable de tenir des conversations avec les enfants .

Le concept semblait magique : votre enfant parlait à sa poupée, et celle-ci lui répondait de manière personnalisée grâce à une connexion WiFi et à un système de reconnaissance vocale . Sauf que très vite, les associations de protection de l’enfance ont tiré la sonnette d’alarme .

Pourquoi ? Parce que tout ce que disaient les enfants était enregistré, transmis sur des serveurs distants, analysé par des algorithmes, et stocké par ToyTalk, le partenaire technologique de Mattel . Imaginez : votre enfant de 5 ans raconte à sa Barbie qu’il a peur du noir, que ses parents se disputent, ou qu’il n’aime pas l’école. Toutes ces confidences finissaient dans une base de données exploitable commercialement.

La Campaign for a Commercial-Free Childhood avait même lancé une pétition en expliquant : « Les enfants se confient à leurs poupées et révèlent des détails intimes sur leurs vies, mais Hello Barbie ne va pas garder ces secrets » .

Et ce n’était pas de la paranoïa. En 2016, des chercheurs en sécurité avaient découvert pas moins de 14 failles de sécurité dans le système de Hello Barbie . Des pirates pouvaient potentiellement prendre le contrôle de la poupée pour communiquer directement avec les enfants .

Le scandale avait été tel que Mattel avait fini par abandonner le projet. Mais vous savez ce qu’on dit : en tech, les mauvaises idées ne meurent jamais, elles hibernent en attendant une meilleure technologie.

L’IA DÉBARQUE DANS LA CHAMBRE DES ENFANTS

Dix ans plus tard, nous voici avec ChatGPT-Barbie. Et cette fois, c’est une toute autre histoire .

Là où Hello Barbie était limitée à 8000 phrases pré-programmées , la nouvelle génération embarque la puissance conversationnelle de GPT. On parle d’une IA capable de générer des réponses infinies, de s’adapter en temps réel à la personnalité de l’enfant, de créer des histoires personnalisées .

Selon Mattel, cette Barbie 2.0 pourra répondre aux questions en langage naturel, raconter des histoires improvisées, stimuler l’apprentissage précoce et même mémoriser les préférences de l’enfant pour créer une continuité émotionnelle .

Josh Silverman, directeur des franchises chez Mattel, nous vend du rêve : « L’IA a le pouvoir de poursuivre cette mission et d’élargir la portée de nos marques de manières nouvelles et passionnantes » . Brad Lightcap d’OpenAI surenchérit en parlant d’expériences « intelligentes » et de « transformation à grande échelle » .

Mais regardons les chiffres : le marché mondial des jouets intelligents devrait dépasser 35 milliards de dollars d’ici 2030, avec une croissance de 12% par an . Le marché des jouets connectés à Internet pourrait atteindre 20,39 milliards de dollars d’ici 2033 . On parle d’un business colossal.

Et c’est là que ça devient intéressant : Mattel traverse une période difficile. Leurs ventes ont stagné, ils ont même retiré leurs prévisions annuelles en raison des incertitudes économiques . Le succès du film Barbie de Greta Gerwig leur a donné un boost temporaire avec +27% de ventes de poupées Barbie au dernier trimestre 2023 , mais ça ne suffit pas.

L’IA, c’est leur pari pour reconquérir une génération d’enfants ultra-connectés. Sauf qu’une fois de plus, les associations et les experts crient au scandale .

QUAND L’IA DEVIENT LE MEILLEUR AMI DE VOS ENFANTS

Et c’est là qu’on touche au cœur du problème. Parce que cette fois, on ne parle plus d’une simple poupée qui répète des phrases. On parle d’une IA conversationnelle capable de créer un lien émotionnel profond avec un enfant .

Mathilde Cerioli, docteure en neurosciences et co-fondatrice d’Everyone.AI, explique que « l’environnement dans lequel nous grandissons a un impact significatif sur notre développement cognitif et socio-émotionnel » . Et quand cet environnement inclut une IA qui imite parfaitement les relations humaines, les conséquences peuvent être dramatiques.

Les recherches montrent que les enfants peuvent développer une confiance excessive envers l’IA et partager des informations personnelles plus facilement qu’avec des humains . Imaginez un enfant de 6 ans qui considère sa Barbie IA comme sa meilleure amie, qui lui confie tout, et qui progressivement préfère cette relation « parfaite » – sans jugement, toujours disponible – aux relations humaines complexes.

L’ONG Public Citizen a immédiatement qualifié ce partenariat de « dangereux », accusant Mattel de « profiter de la confiance des parents pour mener une expérience sociale » . Et ils n’ont pas tort.

Parce que contrairement à ce que prétend Mattel avec ses promesses de « contrôles parentaux » et de « pas de stockage des conversations » , l’IA moderne fonctionne différemment. Pour être efficace, elle doit apprendre, mémoriser, analyser. Et cette analyse, elle ne se fait pas dans le vide.

Jensen Huang, le PDG de Nvidia, parle d’ailleurs d’une « IA incarnée, physique, consciente du contexte » . Une IA qui ne se contente plus d’exister dans nos écrans, mais qui s’installe « à hauteur d’enfant » .

Et pendant que les experts s’inquiètent, les enfants, eux, ne doutent pas. Pour eux, si ça parle et si ça comprend, c’est réel. C’est vivant. C’est leur ami.

L’ENVERS DU DÉCOR TECHNOLOGIQUE

Maintenant, parlons concret. Derrière les promesses marketing, qu’est-ce qui se passe vraiment ?

D’abord, comprenons bien : pour fonctionner, cette Barbie IA aura besoin d’une connexion permanente à internet . Tout ce que dit votre enfant sera traité par les serveurs d’OpenAI. Même avec les « garde-fous » promis par Mattel, on parle d’une collecte de données massive sur les enfants.

Et historiquement, l’industrie du jouet connecté n’a pas brillé par sa sécurité. L’association UFC-Que Choisir a saisi la CNIL concernant les jouets connectés qui stockent des données sur des serveurs étrangers, potentiellement revendues à des fins marketing .

Plus grave encore : des chercheurs de Kaspersky ont récemment découvert des vulnérabilités dans un robot-jouet connecté qui permettaient à des cybercriminels de prendre le contrôle du système et de communiquer en vidéo avec des enfants sans autorisation parentale .

Mais au-delà de la sécurité, il y a une question plus profonde : celle de l’impact sur le développement des enfants. Les outils alimentés par l’IA, avec leur gratification constante et leur conception addictive, peuvent compromettre la capacité des enfants à retarder la gratification et développer leur pensée critique .

Grégoire Borst, professeur de psychologie du développement, le dit clairement : « Il n’existe aujourd’hui aucune donnée scientifique sur l’effet, positif ou négatif, d’un jouet connecté sur le développement cognitif des enfants » . On expérimente en direct sur nos gamins.

Et c’est exactement ce que dénoncent les associations : « Nos enfants ne devraient pas servir de cobayes pour des jouets dopés à l’IA » .

Alors, où est-ce qu’on en est ? On a d’un côté Mattel qui nous promet une révolution ludique avec des jouets adaptatifs et éducatifs, et de l’autre des experts qui nous alertent sur une expérience sociale dangereuse menée sur nos enfants.

La vérité, comme souvent avec l’IA, c’est qu’on navigue en territoire inconnu. Cette technologie peut effectivement offrir des expériences d’apprentissage personnalisées fantastiques. Mais elle peut aussi créer une génération d’enfants émotionnellement dépendants d’algorithmes, incapables de gérer la complexité des relations humaines.

Ce qui me frappe, c’est qu’on reproduit exactement les mêmes erreurs qu’il y a dix ans, mais en pire. Parce que cette fois, l’IA est incomparablement plus puissante et plus persuasive. Et surtout, elle arrive dans un contexte où nos enfants sont déjà ultra-connectés, déjà habitués à interagir avec des écrans plutôt qu’avec des humains.

Ma conviction, c’est qu’on est à un moment charnière. Les choix qu’on fait aujourd’hui sur l’intégration de l’IA dans l’enfance vont déterminer le type d’adultes que deviendront nos gamins. Et franchement, confier cette responsabilité à des entreprises dont l’objectif principal est de maximiser leurs profits, ça me pose question.

Alors ma question pour vous : jusqu’où êtes-vous prêts à laisser l’IA entrer dans la vie de vos enfants ? Est-ce qu’une poupée qui écoute, mémorise et influence vos gamins 24h/24, c’est de l’innovation ou de la manipulation ?

Dites-moi en commentaire : seriez-vous prêts à acheter une Barbie IA à votre enfant ? Et surtout, quelles garanties exigeriez-vous ?