Réseaux sociaux: Les humains pourraient bientôt être «piratés» par l’IA, prévient un expert

L’intégration de l’IA dans la société d’aujourd’hui se développe si rapidement qu’elle devient en partie notre norme. Apporter des changements rapides et spectaculaires pour un supposé bien, l’IA est utilisée pour lutter contre les inégalités raciales, diagnostiquer conditions médicales comme la démence, prédire les tentatives de suicide, lutter contre l’itinérance au Royaume-Uni et même vous offrir des conseils juridiques – c’est vrai, un avocat IA. Cependant, alors que les nouvelles technologies ont leurs qualités indéniablement progressistes, l’IA nous rappelle également la terrifiante réalité d’un George Orwell 1984-niveau de contrôle ainsi que ses défauts assez évidents.

De tels exemples incluent son utilisation potentielle aux États-Unis pour espionner les détenus, L’IA de Facebook échec racial à étiqueter les hommes noirs de « primates », le exploitation du profilage vocal, son incapacité persistante à faire la distinction entre différentes personnes de couleur et c’est inquiétant avenir incontrôlable-pour n’en nommer que quelques uns. Cette petite liste d’incidents nous suffit pour poser la question, faut-il craindre l’IA? Eh bien, une nouvelle marque de mode en plein essor semble le penser.

NON ÉTIQUETÉ (stylisé en lettres majuscules) est un nouveau groupe d’artistes et une marque textile incroyables et passionnants qui façonnent la relation de la mode avec l’IA. Fondée au Japon—en collaboration avec Laboratoire Dentsu Tokyo— les créateurs Makoto Amano, Hanako Hirata, Ryosuke Nakajima et Yuka Sai ont développé ce qui est décrit comme un « camouflage contre les machines ». Ses vêtements spécialement conçus sont construits avec des motifs spécifiques qui empêchent toute IA utilisée dans le monde réel de vous reconnaître. Ne vous inquiétez pas, nous allons expliquer comment tout cela fonctionne, mais d’abord, voyons pourquoi l’équipe a décidé de créer la marque.

Les détails du projet des créateurs — trouvés sur le Laboratoire de créativité informatique– divulguer le raisonnement derrière la création. « Le capitalisme de surveillance est là », précise-t-il, « Des caméras de surveillance sont désormais installées à l’extérieur des foyers ainsi que dans les lieux publics pour surveiller en permanence nos activités. Les appareils personnels enregistrent toutes les activités personnelles sur Internet en tant que données à notre insu. Dans la vidéo de documentation du projet d’accompagnement de la marque trouvée sur la même page, il détaille plus en détail comment ces données acquises sur nous peuvent être utilisées, « Le système transforme notre comportement quotidien en données et en abuse pour l’efficacité et la recherche de profit. »

Pour les créateurs, « le corps physique n’est pas une exception » lorsqu’il s’agit d’exploiter nos données par l’IA. « Avec le développement des données biométriques et de la technologie de reconnaissance d’images pour identifier les individus, les informations dans l’espace réel sont instantanément converties en données », écrivent-ils. « Ainsi, notre vie privée est menacée tout le temps. Dans [this] situation, que signifie le corps physique ou le choix des vêtements ? » De cette question est né le camouflage de mode de UNLABELED pour échapper à l’exploitation de l’information.

Présentant un exemple vidéo de leurs vêtements en action, via le site Web de Computation Creativity Lab, une comparaison est présentée entre deux individus, l’un portant le vêtement et l’autre en vêtements normaux. « [When] portant [UNLABELED’s] vêtements particuliers, l’IA reconnaîtra à peine le porteur comme « humain », [while] les personnes portant des vêtements normaux sont facilement détectées », raconte la vidéo. Et ça a l’air de fonctionner. La caméra est ne peut plus reconnaître la personne qui porte UNLABELED. Le nom de la marque est tout à fait approprié, mais comment ça marche ?

Réseaux sociaux: Les humains pourraient bientôt être «piratés» par l'IA, prévient un expert

Si vous avez deviné l’IA, vous auriez raison. UNLABELED combat l’IA avec IA. L’équipe de la marque a développé une série de modèles, comme celui présenté ci-dessus, qui confondent l’IA de surveillance. Les motifs ont été créés par un autre modèle d’IA utilisé par les créateurs inventifs : « Afin de tromper l’IA, nous avons entraîné de manière contradictoire un autre modèle d’IA à générer des modèles spécifiques induisant l’IA à mal reconnaître, puis nous avons créé un vêtement de camouflage en utilisant le motif », ont-ils raconté dans le vidéo de documentation du projet.

Comment la technologie portable de la marque de mode UNLABELED empêche l'IA de détecter les humains

Cette technique est décrite par UNLABELED comme un « Patch Adversarial » ou des « Exemples Adversariaux ». Cette méthode unique consiste à ajouter des motifs spécifiques (ou de petits bruits à l’œil nu) à des images ou des vidéos dans le but d’induire une fausse reconnaissance dans l’IA. En cas de succès, les modèles résultants créés à partir de cette approche particulière amènent l’IA à mal reconnaître les formes et les objets. UNLABELED note que cette technique est actuellement largement utilisée dans le cadre de la recherche pour réellement améliorer les lacunes de la surveillance, mais a à son tour inversé cette lacune au profit de ses produits et « protéger notre vie privée ».

« Une fois le modèle accusatoire créé, nous les déposons sur le modèle 2D. Ensuite, le motif [is] imprimé sur un tissu en mélange de polyester uni avec transcription. Après l’impression, nous suivons la procédure générale de production de vêtements », déclare UNLABELED. La marque a même développé une planche à roulette dans les mêmes schémas d’évasion de l’IA. Les produits sont disponibles à l’achat sur le site de la marque.

Bien qu’une telle technologie de la mode ne soit pas disponible à grande échelle, cela indique un changement positif continu contre une surveillance intensive – je veux dire, nous détestons tous lorsque ces publicités apparaissent quelques minutes après que nous ayons simplement mentionné le nom d’un produit. Je sais que tu m’écoutes, Apple. Cependant, il y a deux côtés à chaque pièce, même en ce qui concerne l’IA. Bien que cette technologie puisse mieux nous aider à éviter la surveillance, elle pourrait mieux aider n’importe qui pour éviter la surveillance, si vous voyez ce que je veux dire. Pour mon propre point de vue cependant, c’est un autre signe d’une génération qui se rebelle contre la norme – et j’adore ça.

Comment la technologie portable de la marque de mode UNLABELED empêche l’IA de détecter les humains



.

#Les #humains #pourraient #bientôt #être #piratés #par #lIA #prévient #expert