Media

Au-delà des algorithmes, les défis éthiques de l’intelligence artificielle

Dans un monde où les outils dotés de l’intelligence artificielle façonnent de plus en plus nos connaissances, nos interactions et même nos choix, la question des « biais » qui dirigent les réponses obtenues est cruciale. Daphné Marnat, chercheure anthropologue et cofondatrice de la startup Unbias, spécialisée dans la lutte contre les biais sexistes dans l’intelligence artificielle et basée à Sophia Antipolis, offre un regard pertinent sur la façon dont ces préjugés se manifestent dans les algorithmes. Son expertise éclaire les implications sociétales de ces biais, tout en proposant des pistes concrètes pour une technologie transparente.

Quand David (Daphné Marnat de Unbias) rencontre Goliath (Emilie Traversin de Vo2)

“Et vos clients sur vos solutions pour gérer les biais ce sont … ?” Charlie Perreau pose la question à Daphné Marnat la CEO d’Unbias dans la chronique David rencontre Goliath / Smart Boss sur BSMART Ceux qui créent les IA n’ont pas encore bien pris la mesure de leur problème, leurs clients et utilisateurs oui !

Influencia se doutait bien qu’en faisant appel à l’anthropologue Daphné Marnat, féministe réputée pour combattre les biais sexistes dans les modèles de langue (LLM), la question « L’IA a-t-elle un genre ?» l’interpellerait… Cette dernière, qui en 2021 fonde Unbias-IA, explique ici pourquoi l’IA peut être genrée. Un article à retrouver dans la revue 44 d’INfluencia.

La lutte contre les discours sexistes des biais algorithmiques

Les biais, ces sortes de raccourcis pris par le cerveau, mènent à des conclusions ou des décisions faussées du point de vue de la réalité. Courants et souvent implicites, ils sont reproduits mécaniquement par l’intelligence artificielle et peuvent entraîner des sujets de discrimination, notamment au niveau du sexisme.

Quand les algorithmes ne reflètent pas la réalité

On imagine que les machines sont objectives. Eh bien, sachez-le, c’est une fake news. Les algorithmes se construisent sur des décisions passées, des décisions pas toujours très inclusives. Aujourd’hui encore, l’intelligence artificielle perpétue des stéréotypes qui nuisent au progrès social. Comment agir contre ? Explications en quatre questions.

Comment la startup de Sophia Unbias peut-elle lutter contre le sexisme

En cette journée des droits de la femme, découvrez ce logiciel développé à Sophia qui veut donner naissance à une intelligence artificielle éthique en luttant contre les préjugés sexistes.

Palmarès Digital Académie 2021 - L’IA contre le sexisme

Daphné Marnat, cofondatrice d’Unbias. Les chatbots et les traducteurs automatiques sont-ils sexistes ? Plus qu’on pourrait le croire, affirme cette brillante anthropologue, qui a lancé en mars une solution d’IA (intelligence artificielle) permettant de supprimer les biais discriminants dans les algorithmes de traitement du langage.

[L’instant tech] Une start-up française lance un outil d’IA pour corriger les biais sexistes des algorithmes

L’entrepreneure et anthropologue Daphné Marnat lance, lundi 8 mars, la start-up Unbias, qui propose une solution d’IA pour supprimer les biais sexistes dans les algorithmes de traitement du langage. Un outil susceptible d’intéresser toutes les entreprises utilisant des chatbots et logiciels de langage automatique.

Les algorithmes sont-il sexistes ?

Associée à un data scientist, Daphné Marnat lance ce 8 mars la start-up Unbias, qui propose un outil pour corriger les biais sexistes des algorithmes. Il s’agit d’une intelligence artificielle capable de détecter ces biais sexistes et de les remplacer par des mots ou des tournures de phrase moins discriminants.

Unbias à Sophia : l’IA pour contrer le sexisme ordinaire des machines

L’Intelligence Artificielle peut-elle apporter une solution au sexisme de la vie quotidienne que reproduisent les machines (traducteurs automatiques ou chatbot)? Oui répond Unbias. Fondée par une anthropologue et un spécialiste de l’IA, la startup sophipolitaine propose des outils technologiques permettant aux data-scientists de développer une véritable IA éthique.

Daphné Marnat, quand les sciences sociales rencontrent la technologie

Après une formation en anthropologie, Daphné Marnat choisit de mettre cette science au profit des entreprises et crée Twisting, un cabinet d’aide à l’innovation. En 2020, elle se lance un nouveau défi : celui d’une Intelligence artificielle plus éthique. C’est ainsi que naît Unbias, startup installée à Sophia-Antipolis, à l’origine d’un modèle d’apprentissage capable de corriger les biais sexistes dans des textes et les chat-bots.

Daphné Marnat - Lutter contre les a priori sexistes de l’IA

A l’heure où les entreprises s’équipent de plus en plus de chat-bots pour gérer leurs relations client, Daphné souhaite lutter contre les discriminations sexistes ou raciales exprimées par certains algorithmes, sachant qu’ils ne font que reproduire ce qu’ils ont appris de l’humain.

Le sexisme ordinaire taclé par l’algorithme ?

Pour la Journée mondiale de la startup, le 11 mars, visite parlementaire au Business Pôle pour Eric Pauget, où le député avait rendez-vous avec Daphné Marnat et sa techno anti-macho.