INFLUENCE NUMÉRIQUE, IA ET EU KIDS ACT / DIGITAL INFLUENCE, AI AND THE EU KIDS ACT

In English, see below: Digital Influence, AI and the EU KIDS Act

De l’influence numérique à la manipulation des mineurs : le EU KIDS Act face à l’IA générative

L’actualité récente des mobilisations lycéennes, amplifiées et récupérées sur les réseaux sociaux, ravive une question juridique essentielle : comment protéger la jeunesse contre la manipulation numérique sans porter atteinte à sa liberté de pensée et d’expression ni à son droit à l’information ?

Quand un lycéen consulte une vidéo, son fil d’actualité ne privilégie pas nécessairement les contenus les plus exacts, les plus utiles ou les plus nuancés. Il sélectionne ceux qui retiendront son attention et provoqueront une réaction : regarder jusqu’au bout ou en boucle, aimer, commenter, partager. Quelques secondes plus tard apparaissent des images toujours plus violentes ou engageantes, des slogans, des informations et des messages, souvent générés par une IA. Le temps passé devant l’écran, les réactions et les partages alimentent la circulation et la monétisation de ces contenus. La peur, la colère, l’indignation, le mal-être et l’insatisfaction alimentent alors une spirale de contenus dont l’engagement compulsif assure la monétisation.

L’IA générative intervient également sur un terrain plus intime. Par leur disponibilité constante, leur empathie simulée et leur mémoire sélective, les compagnons conversationnels prétendent comprendre un adolescent ou un enfant mieux que ses proches, exploitent son besoin d’appartenance et de reconnaissance et l’éloignent progressivement des relations humaines. L’information, vraie ou fausse, devient alors la matière d’une influence émotionnelle, commerciale ou médiatique, ou même d’une récupération politique. La question n’est donc pas seulement celle du contenu diffusé, mais de l’utilisation et de la manipulation de l’information, ainsi que des mécanismes d’incitation mis au service d’une dynamique contraire aux droits et aux intérêts de la jeunesse.

La grande captation de l’enfance

La position européenne part d’un constat : les enfants et adolescents ne sont plus seulement exposés à des contenus dangereux. Leur attention devient une ressource, leurs réactions la matière d’une optimisation continue, leur vulnérabilité un paramètre de produit. Le 17 septembre 2026, la Commission européenne a présenté le EU KIDS Act, proposition législative consacrée à la sécurité des moins de dix-huit ans dans les espaces numériques.
 Une semaine plus tôt, le 10 septembre 2026, le gouverneur de Californie a signé plusieurs textes relatifs aux mineurs, aux réseaux sociaux et aux compagnons d’IA.

Il s’agit du EU KIDS Act, un projet européen de portée générale consacré à la protection des mineurs dans les espaces numériques, et non d’un AI Kids Act » limité aux seuls enjeux de l’intelligence artificielle. Le texte est plus global ; l’IA générative en constitue néanmoins un facteur décisif. Avec les réseaux sociaux, les plateformes de partage de vidéos et les jeux en ligne, le projet couvrirait également les chatbots et compagnons d’IA accessibles aux mineurs. En octobre 2026, le texte demeure une proposition soumise au Parlement européen et au Conseil selon la procédure législative ordinaire.

Une analyse publiée par IEEE Europe sous le titre Saving Childhood: A Global Shift Toward Age-Appropriate Digital Design inscrit le EU KIDS Act dans un mouvement international en faveur de produits, de plateformes et de services numériques conçus et programmés dès l’origine pour assurer une protection renforcée en fonction de l’âge et de la vulnérabilité de leurs utilisateurs. Les dommages ne résultent plus seulement des contenus diffusés, mais aussi des choix technologiques et économiques arrêtés dès leur conception. Dans cette même logique, l’association Respect Zone, à travers son label et son approche du « Respect by Design », défend l’intégration du respect des utilisateurs et de la prévention des cyberviolences dès la conception des environnements numériques. Ces exigences doivent être inscrites dans les paramètres mêmes de la technologie : les algorithmes ne doivent ni capturer le temps de l’enfance, ni accélérer artificiellement le passage vers l’âge adulte, ni substituer la relation virtuelle aux liens humains indispensables à l’éducation et à l’épanouissement.

Un droit déjà présent, mais encore fragmenté

Le projet s’inscrit dans un cadre européen déjà protecteur. L’article 28 du Digital Services Act impose aux plateformes accessibles aux mineurs un niveau élevé de protection de leur vie privée, de leur sûreté et de leur sécurité. La publicité fondée sur le profilage est également interdite lorsque les plateformes ont connaissance, avec une certitude raisonnable, de la minorité du destinataire du service.

Les lignes directrices européennes de 2025 dessinent un environnement numérique où la protection accompagne le mineur dès son entrée sur la plateforme. Son compte reste privé, tandis que la caméra, le microphone et la géolocalisation demeurent désactivés par défaut. Des garde-fous limitent le grooming, le cyberharcèlement et les mécanismes qui prolongent artificiellement l’utilisation du service, comme la lecture automatique ou le rafraîchissement compulsif. Le mineur doit également pouvoir reprendre la main sur son fil d’actualité, en choisissant un contenu non profilé et réinitialisable. Elles éclairent l’application du DSA en indiquant concrètement comment appliquer ces obligations. Cette protection est complétée par le RGPD, qui encadre l’utilisation des données personnelles, et par l’AI Act, qui interdit certaines pratiques manipulatrices exploitant les vulnérabilités liées à l’âge.
 En France s’ajoutent les règles relatives au cyberharcèlement, à la haine et au droit à l’image, ainsi que les textes sur les enfants influenceurs, le harcèlement scolaire et l’influence commerciale. La loi du 7 juillet 2023 prévoit une autorisation parentale pour l’inscription sur les réseaux sociaux avant l’âge de quinze ans, sous réserve du droit européen ; la loi SREN du 21 mai 2024 renforce l’ARCOM contre l’accès des mineurs aux contenus pornographiques. Le droit intervient encore trop souvent après l’exposition, lorsque le contenu a déjà circulé, que l’atteinte est consommée et que le délai de modération laisse au dommage le temps de se propager. L’enjeu est donc d’agir en amont, à la source même du risque, en imposant dès la conception les standards les plus protecteurs pour l’enfance, la dignité, la liberté d’expression, la liberté de pensée et le libre arbitre. Il ne s’agit ni de remplacer l’humain ni d’entraver son évolution, mais de façonner un espace numérique où la technologie lui permette d’apprendre, de créer et de déployer pleinement ses capacités, plutôt que d’asservir son attention et ses libertés à une logique de monétisation.

Du contenu au design : la mécanique de l’influence

Retirer une vidéo après signalement ne suffirait plus : le fournisseur devrait démontrer la sécurité et l’adaptation à l’âge dès la conception. Le projet combine une protection graduée selon l’âge avec des paramètres protecteurs par défaut, sans transformer le contrôle parental en surveillance. Il vise surtout les mécanismes qui captent et orientent l’attention : recommandations, défilement infini, notifications et personnalisation. En répétant les mêmes images et récits, l’algorithme peut faire passer la visibilité pour la vérité, fabriquer un faux consensus et faciliter l’instrumentalisation politique des émotions.

Une interdiction indistincte des contenus politiques serait injustifiée. Enfants et adolescents conservent leurs libertés d’information, de pensée, d’expression et de participation démocratique. La régulation doit viser l’opacité du ciblage, l’amplification artificielle et l’exploitation d’une vulnérabilité, non les opinions licites. Menaces, haine, violence et harcèlement ciblé appellent une action ; une modération automatique trop large peut effacer un témoignage, une satire ou la preuve d’un abus. La transparence, la motivation, un recours simple et l’intervention humaine restent indispensables.

D’une langue à l’autre, d’une source à l’autre

Un contenu ne devient pas moins dangereux lorsqu’il change de langue. Pourtant, une incitation à la haine ou à la violence, comme un contenu relevant de l’exploitation sexuelle, peut être rapidement détectée dans une langue officielle de l’Union européenne et demeurer plus longtemps accessible lorsqu’elle circule dans une autre langue. La protection ne peut donc rester un principe inscrit dans les paramètres de modération : elle doit être effective dans leur application et leur exécution. Reste à savoir qui définit les standards, selon quelles lois, selon quels critères et avec quels moyens. Chaque langue porte ses codes, ses détournements et son contexte culturel ; leur compréhension exige des outils adaptés et une expertise humaine, sans que le niveau de protection dépende de la langue dans laquelle le contenu est diffusé.

La même exigence vaut pour les sources. Une IA ne distingue pas spontanément un texte officiel, une décision de justice, une archive institutionnelle ou une page collaborative susceptible d’être modifiée. L’origine, la hiérarchie et la traçabilité des informations doivent donc être vérifiables, afin qu’une réécriture idéologique ou politique ne soit pas reproduite, amplifiée puis présentée à la jeunesse ou à certaines communautés comme une vérité neutre.

L’IA générative, nouvelle frontière de la vulnérabilité

L’IA générative change l’échelle et la vitesse du risque : deepfake d’un lycéen, voix imitée, propos inventés attribués à un professeur, image sexualisée sans consentement. Ces faux peuvent nourrir le cyberharcèlement et industrialiser la désinformation sous forme de variantes ciblées avant tout démenti ; le droit à l’image, la protection de la vie privée, la répression des infractions sexuelles, du harcèlement et de la diffamation, ainsi que les obligations des plateformes, offrent déjà des recours.

Les chatbots ajoutent une scène plus intime. Voix synthétique, mémoire simulée, empathie calculée et disponibilité constante créent une illusion de réciprocité et peuvent installer une dépendance émotionnelle. Le projet prévoirait leur désactivation par défaut. Un avertissement sur leur nature artificielle, des limites d’usage, l’absence d’incitation à l’isolement, une orientation vers un interlocuteur humain et une évaluation indépendante devraient encadrer leurs relances, récompenses et réponses aux crises, sans surveillance permanente des conversations.

Vérifier l’âge sans surveiller tous les utilisateurs

La vérification de l’âge comporte un paradoxe : protéger sans surexposer les données. Le projet privilégierait la preuve d’un seuil d’âge sans identité complète ni biométrie conservée ; séparation des acteurs, minimisation, sécurité, accessibilité et recours devraient empêcher une identification générale des internautes.

La décision du tribunal administratif de Paris du 15 avril 2025 a retenu l’harmonisation complète pour les plateformes normalement accessibles aux mineurs et les très grandes plateformes, tout en admettant des mesures nationales complémentaires pour d’autres services. L’arrêt de la cour administrative d’appel de Paris du 30 septembre 2025 a confirmé la compatibilité du dispositif français relatif aux contenus pornographiques avec le DSA : une violation pénale nationale peut justifier une injonction visant une activité illicite, sans identification générale.

Dans NetChoice v. Bonta, le neuvième circuit a, le 16 août 2024, maintenu l’injonction préliminaire visant les rapports d’impact du California Age-Appropriate Design Code Act, susceptibles à ce stade de heurter le premier amendement, mais annulé son extension au reste de la loi et renvoyé l’affaire. La décision reste provisoire et circonscrite : elle ne valide ni n’annule définitivement la loi, et le contentieux se poursuit.

Europe, France, Californie : vers une vigilance numérique

L’Europe pose un cadre transversal de droits fondamentaux, de services et de données ; la France l’articule avec l’ARCOM et la CNIL ; la Californie avance par textes sectoriels sous le contrôle du premier amendement. Les lois signées le 10 septembre 2026 couvrent notamment les contrôles parentaux, les audits annuels et les évaluations des risques, les fonctionnalités addictives pour les utilisateurs de moins de seize ans, les données scolaires et la protection des mineurs contre l’exploitation sexuelle, y compris les images sexuelles de mineurs générées ou modifiées par l’IA, sans que leur signature rende toutes leurs dispositions immédiatement applicables.

Leur point commun devrait être une vigilance avant lancement : tester les risques de manipulation, de violence, de dépendance, de harcèlement et de sexualisation, écarter les architectures inutilement addictives, suivre les incidents et auditer les garde-fous. Une évaluation d’impact sur les droits et l’autonomie, distincte de la seule analyse RGPD, mesurerait la dignité, la santé mentale, la liberté de pensée et d’information, la formation de l’opinion et la dépendance émotionnelle ; elle associerait, selon l’âge, les jeunes, les éducateurs et les experts, comparerait les solutions moins intrusives et serait actualisée après toute évolution importante. Pour les plateformes, les studios, les labels, les producteurs, les éditeurs de jeux et les start-up, cette vigilance doit irriguer la conception, la modération, les contrats et les alertes, tout en maintenant une voie humaine hors de l’écran.

Les travaux autour du EU KIDS Act ne visent ni à éteindre les écrans, ni à tenir les enfants et adolescents à l’écart du numérique. Ils invitent à bâtir un environnement qui accompagne leur développement au lieu d’exploiter leurs vulnérabilités ; un espace où apprendre, créer, contester et imaginer sans que chaque émotion devienne donnée, chaque hésitation cible, chaque colère levier. Protéger aujourd’hui les enfants et adolescents, c’est préserver les citoyens et les créateurs de demain, le temps du jugement, la pluralité des récits et la liberté d’inventer. Sans vision de l’avenir numérique à transmettre aux prochaines générations, vers quel monde allons-nous ? On parle beaucoup de l’entraînement de l’IA. Il faut désormais penser aussi son éducation : les valeurs, les limites et les réflexes de protection que nous choisissons d’inscrire dans sa conception. Les algorithmes d’influence restent à programmer : voulons-nous qu’ils captent l’humain ou qu’ils lui permettent de penser, de créer et de grandir librement ? Le droit peut encore ouvrir un chemin où la technologie se met au service de l’imaginaire et de la liberté.

—

English version

DIGITAL INFLUENCE, AI AND THE EU KIDS ACT

From Digital Influence to Child Manipulation: The EU KIDS Act and Generative AI

Recent high school protests, amplified and co-opted on social media, bring a fundamental legal question back into sharp focus: how can we protect  from digital manipulation without infringing on their freedom of thought and expression or their right to information?

When a high school student watches a video, the student’s feed does not necessarily prioritize the most accurate, useful, or nuanced content. Instead, it selects content most likely to hold the student’s attention and trigger a reaction: watching to the end or on repeat, liking, commenting, or sharing. Seconds later, increasingly violent or engaging images appear, along with slogans, information, and messages, often generated by AI. Time spent on screen, reactions, and shares drive the circulation and monetization of this content. Fear, anger, outrage, distress, and dissatisfaction then feed a content spiral monetized through compulsive engagement.

Generative AI also operates in a more intimate sphere. Through their constant availability, simulated empathy, and selective memory, AI companions claim to understand kids better than their families do, exploit their need for belonging and recognition, and gradually distance them from human relationships. Information, whether true or false, then becomes a tool of emotional, commercial, or media influence, or even political co-option. The issue, therefore, is not only the content being disseminated, but also how information is used and manipulated, and how mechanisms of inducement are deployed in service of a dynamic contrary to the rights and interests of kids.

The Digital Capture of Childhood

Europe’s position begins with a clear premise: kids are no longer merely exposed to harmful content. Their attention has become a resource, their reactions the raw material for continuous optimization, and their vulnerability a product parameter. On September 17, 2026, the European Commission presented the EU KIDS Act, a legislative proposal focused on the safety of people under 18 in digital spaces.

One week earlier, on September 10, 2026, the governor of California signed several measures addressing minors, social media, and AI companions.

The EU KIDS Act is a broad European proposal designed to protect minors across digital spaces—not an “AI Kids Act” limited solely to artificial intelligence. The proposal is broader in scope, although generative AI nevertheless remains a decisive factor. Alongside social media, video-sharing platforms, and online games, it would also cover chatbots and AI companions accessible to minors. As of October 2026, the text remains a proposal before the European Parliament and the Council under the ordinary legislative procedure.

An analysis published by IEEE Europe, titled Saving Childhood: A Global Shift Toward Age-Appropriate Digital Design, situates the EU KIDS Act within an international movement toward digital products, platforms, and services designed and programmed from the outset to provide heightened protection based on users’ age and vulnerability. Harm no longer results solely from the content disseminated, but also from technological and economic choices made at the design stage. In the same vein, the Respect Zone association, through its label and its “Respect by Design” approach, advocates integrating respect for users and the prevention of cyberviolence into digital environments from the outset. These requirements must be built into the technology’s core settings or design parameters: algorithms must not capture the time of childhood, artificially accelerate the transition to adulthood, or substitute virtual interaction for the human relationships essential to education and healthy development.

Existing Law, Still Fragmented

The proposal fits within an existing European framework that already provides protection. Article 28 of the Digital Services Act requires platforms accessible to minors to provide a high level of protection for their privacy, safety, and security. Profiling-based advertising is also prohibited when platforms know, with reasonable certainty, that the recipient of the service is a minor.

The 2025 European guidelines envision a digital environment in which minors are protected from the moment they access a platform. A minor’s account remains private, while the camera, microphone, and geolocation features remain disabled by default. Safeguards limit grooming, cyberbullying, and mechanisms that artificially prolong use of the service, such as autoplay or compulsive refreshing. Minors must also be able to regain control over their news feeds by choosing non-profiled content and resetting the feed. The guidelines clarify how these obligations should be applied in practice under the DSA. This protection is complemented by the GDPR, which governs the use of personal data, and by the AI Act, which prohibits certain manipulative practices that exploit age-related vulnerabilities.

France also has laws addressing cyberbullying, hate, and rights in one’s likeness, together with rules on child influencers, school bullying, and commercial influence. The July 7, 2023, law requires parental authorization for children under 15 to use social media, subject to EU law; the May 21, 2024, SREN Law strengthens ARCOM’s authority to prevent minors from accessing pornographic content. Too often, the law still intervenes only after exposure—once the content has already circulated, the harm has been done, and moderation delays have allowed that harm to spread. Protection must therefore begin upstream, at the source of the risk, by embedding the highest standards for the protection of children, dignity, freedom of expression, freedom of thought, and individual agency into the design itself. The goal is neither to supplant human beings nor to hinder human development, but to shape a digital environment in which technology enables people to learn, create, and fully realize their potential, rather than subordinating their attention and freedoms to the logic of monetization.

From Content to Design: The Mechanics of Influence

Removing a reported video would no longer suffice: providers would have to demonstrate safety and age-appropriate design from the outset. The proposal combines graduated, age-based protections with protective defaults, without turning parental controls into surveillance. It focuses primarily on mechanisms that capture and steer attention: recommendations, infinite scroll, notifications, and personalization. By repeating the same images and narratives, an algorithm can make visibility look like truth, manufacture a false consensus, and facilitate the political exploitation of emotion.

The answer cannot be to ban political content indiscriminately: kids retain the rights to seek information, think, dissent, and participate in democratic debate. Regulation must target opaque targeting, artificial amplification, and the exploitation of vulnerability—not lawful opinions. Threats, hate, violence, and targeted harassment require action; overly broad automated moderation may erase testimony, satire, or evidence of abuse. Transparency, reasoned decisions, accessible appeals, and human review remain indispensable.

Across Languages, Across Sources

Content does not become less dangerous when it is translated into another language. Yet incitement to hatred or violence, as well as content involving sexual exploitation, may be detected quickly in an official language of the European Union and remain accessible longer when it circulates in another language. Protection therefore cannot remain merely a principle encoded in moderation settings: it must be effective in implementation and enforcement. The question remains who defines the standards, under which laws, according to which criteria, and with what resources. Each language has its own codes, coded language, and cultural context; understanding them requires adapted tools and human expertise, and the level of protection must not depend on the language in which the content is disseminated.

The same requirement applies to sources. AI does not inherently distinguish among an official text, a judicial decision, an institutional archive, and a collaborative page that may be edited. The origin, hierarchy, and traceability of information must therefore be verifiable, so that ideological or political rewriting is not reproduced, amplified, and then presented to kids or certain communities as neutral truth.

Generative AI: A New Frontier of Vulnerability

Generative AI changes the scale and pace of risk: a deepfake of a high school student, a cloned voice, fabricated statements attributed to a teacher, or a sexualized image created without consent. These fakes can fuel cyberbullying and  produce disinformation at scale through targeted variations before any correction can catch up; rights in one’s likeness, privacy, sexual offenses, harassment, defamation, and platform obligations already provide remedies.

Chatbots create a more intimate setting. Synthetic voices, simulated memory, programmed empathy, and constant availability create an illusion of reciprocity and may foster emotional dependence.

The proposal would require them to be disabled by default. Clear disclosure of their artificial nature, usage limits, safeguards against encouraging isolation, a channel for human support, and independent evaluation should govern their re-engagement prompts, rewards, and crisis responses—without continuous monitoring of conversations.

Age Verification Without Mass Surveillance 

Age verification presents a fundamental tradeoff: protecting minors without collecting excessive personal data. The proposal would favor proof that a user meets an age threshold without requiring disclosure of personally identifying information or retaining biometric data; role separation, data minimization, security, accessibility, and redress must prevent the identification of internet users on a broad scale.

The Paris Administrative Court held on April 15, 2025, that full harmonization applied to platforms normally accessible to minors and very large online platforms, while permitting supplemental national measures for other services. On September 30, 2025, the Paris Administrative Court of Appeal confirmed that the French framework governing pornographic content was compatible with the DSA: a violation of national criminal law may justify an order targeting unlawful activity without requiring the identification of all users.
 In NetChoice v. Bonta, on August 16, 2024, the Ninth Circuit upheld the preliminary injunction against the impact-assessment reporting requirements of the California Age-Appropriate Design Code Act, which at that stage were likely to violate the First Amendment, but vacated the injunction as to the remainder of the statute and remanded the case. The ruling remains preliminary and limited: it neither definitively upholds nor invalidates the law, and the case continues on the merits.

Europe, France, and California: Toward Digital Vigilance

At the European level, fundamental rights, service regulation, and data protection form a cross-cutting framework; France coordinates that framework through ARCOM and the CNIL, while California proceeds through sector-specific statutes subject to First Amendment review. The laws signed on September 10, 2026, notably address parental controls, annual audits and risk assessments, addictive features for users under 16, school data, and the protection of minors from sexual exploitation, including AI-generated or AI-altered sexual images of minors. Their enactment did not make every provision immediately effective. A shared principle should be prelaunch vigilance: testing for manipulation, violence, dependence, harassment, and sexualization; rejecting needlessly addictive designs; monitoring incidents; and auditing safeguards. A rights-and-autonomy impact assessment, separate from a GDPR-only assessment, would assess effects on dignity, mental health, freedom of thought and information, the formation of opinions, and emotional dependence; involve kids, educators, and experts in an age-appropriate manner; and compare less intrusive alternatives. Reassessment would follow each material change. For platforms, studios, labels, producers, game publishers, and startups, that vigilance must permeate design, moderation, contracts, and alerts while preserving access to human support beyond the screen.

The work surrounding the EU KIDS Act seeks neither to turn off screens nor to shut kids out of the digital world. It calls for an environment that supports their development rather than exploiting their vulnerabilities—a space where they can learn, create, dissent, and imagine without every emotion becoming data, every hesitation a target, or every flash of anger a lever. Protecting kids today means safeguarding tomorrow’s citizens and creators, the time required for sound judgment, a plurality of narratives, and the freedom to invent. Without a vision for the digital future we want to pass on to kids, what kind of world are we moving toward? Much is said about training AI. We must now also consider its education—the values, boundaries, and protective instincts we choose to embed in its design. Influence algorithms remain ours to program: will we design them to capture human beings, or to enable them to think, create, and grow freely? The law can still chart a path where technology serves imagination and freedom.

 

#InfluenceNumérique #DigitalInfluence #EUKIDSAct #IA #AI #ProtectionDesMineurs #ChildOnlineSafety #SafetyByDesign #RespectByDesign #DigitalRights #AgeAssurance #GenerativeAI #LaurenceBenhamou #Law #Droit