Raccourcis:

Aller directement au contenu (Alt 1)Aller directement à la navigation secondaire (Alt 3)Aller directement à la navigation principale (Alt 2)

Intimité et intelligence artificielle (IA)
Culture algorithmique

AI
© Marvin Luvualu

L’IA façonne profondément la culture. Plutôt que de craindre que les machines dépassent l’intelligence humaine, on pourrait se demander pourquoi on exige aux êtres humains d’agir davantage comme des machines. Comment une reconnexion au corps, au paysage et aux expériences de la diaspora présenterait-elle de nouvelles possibilités?

De Jerrold McGrath

Mes ancêtres ont quitté l’Irlande pour le Canada au milieu du 19e siècle, après que le mildiou a décimé la pomme de terre, la principale denrée alimentaire de la plupart des Irlandais. Historiquement, de mauvaises récoltes entraînaient une dépendance accrue aux autres produits agricoles. Or, les Irlandais ne possédaient pas leurs terres et les propriétaires britanniques n’étaient pas disposés à sacrifier leur grain destiné à l’exportation. Plus d’un million de personnes sont mortes, et beaucoup d’autres ont fui en Amérique du Nord, en Angleterre et en Australie pour recommencer à zéro. La population irlandaise n’est toujours pas revenue au niveau de 1846.

La pomme de terre, quant à elle, a connu un tout autre destin. Elle est venue des Andes, où elle a poussé çà et là, se heurtant à des pommes de terre sauvages et à une gamme colorée de variétés domestiquées. Si un champignon s’attaque à quelques plants, la diversité permet aux autres de prospérer.

Le même besoin de diversité s’applique à notre culture, et l’importance croissante de l’IA dans tous les secteurs a des effets spectaculaires sur les idées qui nous inspirent pour répondre aux problèmes de l’avenir.

Croissance et efficacité

La culture algorithmique réfère à la façon dont la logique des grandes données et des calculs change notre perception et notre expérience du monde. La logique dominante des grandes données est axée sur la croissance et l’efficacité. En Irlande, la pomme de terre Lumper poussait facilement et à bon marché. Il s’agissait toutefois d’une culture clonée, plantée en morceaux par des générations précédentes. Ainsi, cette denrée alimentaire essentielle et tous ceux qui en dépendaient se sont retrouvés dans une situation très précaire.

L’accent mis sur la croissance et l’efficacité laisse peu de place aux valeurs liées à la beauté, à la compassion ou à l’autonomie. La pomme de terre Lumper avait remplacé toutes les autres cultures vivrières. Les systèmes d’IA, pareillement, se concentrent exclusivement sur des approches qui ont le potentiel de générer à plus grande échelle, ce qui conduit à des systèmes qui perçoivent le monde comme étant remplis d’objets nécessitant une optimisation et un contrôle. En matière d’IA, cela s’applique aux êtres humains aussi facilement qu’aux voitures ou aux cargos.

Automatisation des humains

Le fait que les systèmes d’IA demandent aux humains d’agir davantage comme des machines est troublant. La culture algorithmique nous demande de nous comporter comme si nous ne grandissions pas et ne nous adaptions pas, ne nous décomposions pas et ne modifions pas radicalement le cours de notre vie. Le système tolère de petits changements dans nos goûts ou nos mouvements, tant que nous ne sortons pas du modèle utilisé pour garantir ce qui se passe ensuite. Au service de la création d’un avenir meilleur, l’IA préfère que les êtres humains restent stables et suspendus, fixés dans leurs réponses, réduits dans leurs pouvoirs. L’IA peine à percevoir les parties de la vie qui pourraient nous rehausser : la communauté, la spiritualité, un lien avec la nature, l’extase physique, l’intimité ou l’art. 

Plutôt que de créer un algorithme qui pense comme un humain, le but, semble-t-il, est de nous automatiser. J’ai passé la plus grande partie de 2019 et 2020 à rencontrer des artistes, des philosophes, des décideurs politiques, des spécialistes des données et des chercheurs passionnés par les possibilités de l’IA et préoccupés par son orientation actuelle. Ils ont exprimé leurs inquiétudes sur la façon dont les entreprises et les gouvernements autoritaires dictent la manière dont les systèmes d’IA sont développés et déployés.

Nous devons éviter de rejeter la faute à la nature des algorithmes qui favorise l’automatisation dans les systèmes d’IA. La technologie est inévitablement une expression des objectifs de la culture générale. Le travail assigné à nos algorithmes reflète en fin de compte les choses auxquelles nous attachons de l’importance.

Corps, paysage et diaspora

Ceux qui pensent à l’IA voient trop souvent les corps humains, les paysages et les diasporas comme des problèmes à résoudre par l’analyse de données et la prise de décision automatisée. Les technologies ne sont pas développées pour soutenir l’habitation collective d’un monde partagé, mais plutôt une zone d’intérêt optimisée localement qui facilite la prévision et le contrôle.

L’intimité repose sur notre perception de l’autre en tant que sujets incarnés, pourtant, selon les normes de l’IA, l’intimité est inefficace et se mesure mal. La culture algorithmique choisit trop souvent de ne pas tenir compte de l’intimité dans ses décisions. L’omniprésence du glissement à droite ou à gauche suggère que le lent processus d’approfondissement d’une relation, soutenu par la communauté, est remplacé par un autre type d’achat en ligne. Comment l’IA peut-elle être explorée à travers le prisme de l’intimité? Comment les pratiques intimes compliqueraient-elles notre expérience de l’IA?

Tout comme nous habitons notre corps physique, nous habitons des paysages et vivons à l’intérieur et à l’extérieur de ceux-ci. La tragédie de la famine irlandaise témoigne de l’incapacité à reconnaître notre enchevêtrement dans les systèmes naturels. Des tablettes de pierre aux puces de silicium, les machines intelligentes ne sont pas plus éloignées de la terre qu’un morceau de pierre gravé. Nous sommes organisés par nos paysages, et nous devons donc nous demander comment la terre pourrait influencer le développement et les réponses à l’IA. Comment pourrions-nous changer l’orientation de la surveillance, et passer de la surveillance et du contrôle des comportements visibles à la compréhension des relations invisibles entre les gens et les environnements?

Enfin, chacun d’entre nous se situe dans un cadre historique, écologique et social. Beaucoup sont éloignés des origines physiques de ces milieux en raison de migrations ou de déplacements, réels et numériques. Alors, de quelle éthique s’agit-il lorsque nous parlons de l’éthique de l’IA? La culture algorithmique nous encourage à considérer les étrangers comme des données, sans véritable capacité d’agir. Les systèmes d’IA sont fréquemment déployés aux frontières. Comment les différentes formes de migration et de déplacement peuvent-elles influencer la culture algorithmique? Comment ces expériences peuvent-elles nous permettre d’affiner et d’humaniser les systèmes d’IA, puis de revenir à nous-mêmes avec les bienfaits de ce processus?

Nous pouvons commencer à aborder ces questions à travers de multiples voix et par le rire. L’intimité avec les autres, le sens de l’intendance du monde qui nous entoure et les récits de migration et de lutte exigent une façon d’être en dehors de la machine afin que nous puissions mieux apprendre à diriger les systèmes d’IA avec un plus grand engagement éthique. Sans cet effort, la culture algorithmique nous poussera à nous rapprocher des besoins d’un système qui n’a pas été conçu pour nous, mais qui menace de nous consommer, nous laissant peu de capacité à vivre et à agir en tant qu’agents éthiques.

 

À propos de l’auteur

McGrath Jerrold McGrath Jerrold McGrath (@jerroldmcgrath) est responsable de la programmation de la série sur la culture algorithmique du Goethe Institut de Toronto. Jerrold est un ancien directeur de programme au Banff Centre for Arts and Creativity et au Artscape Launchpad. Il est actuellement directeur général de UKAI Projects et fondateur de Ferment AI. Jerrold produit des collaborations intersectorielles autour de questions d’intérêt social telles que l’intelligence artificielle, l’équité en réponse à la COVID-19, l’espoir et le désespoir, et la diaspora numérique. Sa pratique créative se penche sur les façons dont nous sommes organisés par le monde. Il est un responsable de la Fondation BMW et un ambassadeur du Festival STATE de Berlin. Jerrold écrit actuellement son premier livre, In Praise of Disorder.

Goethe-Toronto Culture algorithmique Séries

Cette année, le Goethe-Institut Toronto s'engage à dialoguer avec de multiples voix pour déterminer de nouvelles voies dans l’exploration de l’éthique de l’IA.
 
Le programme sur les cultures algorithmiques comencera avec des ateliers et la production de zines à Berlin et à Toronto, comme un processus local et idiosyncrasique qui engage, éduque et organise nos amis, notre famille et notre communauté. Le printemps 2021 verra également le lancement de « The Computer is Your Friend », un balado documentant un groupe d’artistes, de scientifiques et d’éthiciens naviguant dans un monde de jeu à l’humour noir dont personne ne connaît vraiment les règles et dirigé par un tyran excentrique.
 
Nous avons hâte de travailler avec différents artistes et partenaires exceptionnels pour explorer comment les défis de l’IA se mêlent aux idées du corps et de l’intimité, à nos paysages, et à travers les différentes expériences de la diaspora.
 
Selon nous, la possibilité de développer une IA qui ait un sens pour la vie en Allemagne ou au Canada, à Berlin ou à Iqaluit, repose sur le fait de se reconnecter aux vies, aux paysages et aux cultures et de proposer des orientations pour l’IA qui reflètent les expériences de l’être humain.