Edit created by The Conversation of the "Bush Legend."

La star autochtone de TikTok, « Bush Legend », est en fait générée par l’IA, ce qui conduit à des accusations de « blackface numérique »

Par Anissa Chauvin

La « légende de Bush » autoproclamée sur Tik Tok, Facebook et Instagram gagne en popularité.

Ces vidéos courtes et pointues mettent en scène un homme autochtone – parfois peint en ocre, d’autres fois dans une tenue entièrement kaki – alors qu’il présente différents animaux indigènes et des faits à leur sujet. Ces vidéos sont associées à divers airs de yidaki (didgeridoo), y compris des mixages techno.

@bushlegend.offical

♬ Didgeridoo sauvage et puissant Primitive(1478108) – Shinnosuke Shibata

Savent-ils que c’est l’IA ?

Dans la description de l’utilisateur, les pages de Bush Legend indiquent que les visuels sont de l’IA. Mais l’utilisateur moyen qui fait défiler des vidéos sur ses réseaux sociaux clique-t-il sur un profil pour lire ces détails ?

Certaines vidéos comportent des filigranes d’IA ou mentionnent qu’il s’agit d’IA dans la légende. Mais de nombreux spectateurs ignoreront complètement que cette personne n’est pas réelle et que la vidéo entière est générée artificiellement.

Ces vidéos « appâtent » le public à travers un spectre de créatures mignonnes et câlines à extrêmement dangereuses. Les commentaires laissés sur les vidéos questionnent la proximité de l’homme avec les animaux, ainsi que leurs mots d’encouragement.

Un commentateur sur Facebook écrit « Vous avez la même merveilleuse énergie que Steve Irwin et votre voix est agréable à écouter. »

La voix et l’énergie auxquelles ils font référence sont fabriquées.

Un manque de respect

Avec tout contenu autochtone sur Internet (authentique ou IA), il reste des commentaires racistes. En tant que peuple autochtone, nous disons souvent ne lis pas les commentaireslorsqu’il s’agit de médias sociaux et de contenu autochtone.

Même si la légende de Bush n’est ni réelle ni fondée sur la culture, elle n’est pas non plus à l’abri du racisme en ligne. J’ai lu des commentaires sur ses vidéos qui valorisent ce personnage d’IA tout en dénigrant tous les autres peuples autochtones.

Même si cela n’a pas d’impact sur le créateur, cela a un impact sur les peuples autochtones qui lisent les commentaires.

La seule information disponible sur Bush Legend, outre le fait qu’il s’agit d’une IA, est que le créateur est basé à Aotearoa en Nouvelle-Zélande. Cela suggère qu’il n’y a probablement aucun lien avec les communautés aborigènes et insulaires du détroit de Torres dont cette ressemblance est tirée.

Récemment, Bush Legend a répondu à certaines de ces critiques dans une vidéo.

Il a dit :

Je ne suis pas ici pour représenter une culture ou un groupe (…) Si ce n’est pas votre truc, mon pote, ne vous inquiétez pas du tout, faites simplement défiler et passez à autre chose.

Un post partagé par Keagan John Mason (@bushlegend.offical)

Une photo postée par sur

Cela ne répond pas suffisamment aux préoccupations très réelles. Si les vidéos « racontent simplement des histoires d’animaux », pourquoi le créateur insiste-t-il pour utiliser l’image d’un homme autochtone ?

La responsabilité envers les communautés que cela implique n’est pas prise en compte dans ce scénario.

L’éthique de l’IA

L’IA générative représente une nouvelle plateforme dans laquelle Droits de propriété culturelle et intellectuelle autochtones (ICIP) sont violés.

Les préoccupations concernant l’IA et les peuples autochtones touchent de nombreux domaines, notamment éducationet le manque de Implication autochtone dans l’IA création et gouvernance. Bien entendu, il y a aussi un coût pour le pays, avec des impacts environnementaux.

@outbackmike

♬ son original – Outback Mike

Le plan national d’IA récemment publié offre peu en termes de réglementation.

Les peuples autochtones se battent depuis longtemps pour raconter leurs propres histoires. L’IA présente une autre façon de diminuer ou de supprimer complètement notre autodétermination. Cela permet également aux non-Autochtones de se distancier des véritables peuples autochtones en leur permettant d’interagir avec un contenu fabriqué et, souvent, plus acceptable.

Bush Legend reflète une pente glissante en ce qui concerne le contenu généré par l’IA sur les peuples autochtones, car les gens peuvent s’éloigner de plus en plus de l’engagement direct avec les aborigènes et les insulaires du détroit de Torres.

Une nouvelle ère de l’IA Blakface

Nous assistons à l’essor d’une IA Visage noir qui est utilisé facilement grâce à la disponibilité et prévalence de l’IA.

Les personnes et entités non autochtones sont capables de créer des personnages autochtones grâce à l’IA, souvent fondés sur des représentations stéréotypées qui fusionnent et s’approprient les cultures.

Bush Legend est souvent vu portant des bijoux culturels et avec de l’ocre peint sur sa peau. Dans la mesure où ils sont générés, il s’agit de détournements superficiels et dépourvus des fondements culturels de ces pratiques.

Il s’agit d’un nouveau type d’appropriation, qui s’étend sur la violence que les peuples autochtones subissent déjà dans le domaine numérique, en particulier sur réseaux sociaux. Le vol des connaissances autochtones pour l’IA générative constitue un nouveau type de colonialisme de peuplement algorithmiqueayant un impact sur l’autodétermination des Autochtones.

Plus inquiétant encore, ces AI Blakfaces peuvent être monétisées et générer un gain financier pour le créateur. Cet avantage financier devrait revenir aux communautés dont provient le contenu.

Que faut-il ?

Il est inquiétant de vivre à une époque où nous ne savons pas si les choses que nous consommons en ligne sont réelles. Augmenter notre IA et éducation aux médias les niveaux font partie intégrante.

Considérez-vous le contenu de l’IA partagé en ligne comme une vérité ? Faites-le savoir à la personne qui partage ce contenu : les conversations avec nos communautés sont l’occasion d’apprendre ensemble.

Soutenir les véritables Autochtones qui partagent leurs connaissances en ligne, comme @Indigigrow, @littleredwrites ou @meissa. Ou regardez toutes les vidéos des Rangers autochtones sur Tik Tok.

Lorsque vous vous engagez en ligne, prenez un moment pour réfléchir à la source. Cette IA est-elle générée ? Est-ce là que devrait être mon soutien ?

Cet article édité est republié à partir de La conversation sous licence Creative Commons. Lire le article original.

Anissa Chauvin