Big data & I.A.

IA : Pékin lance son programme de “note sociale” à partir de la reconnaissance faciale

Par
FineDigit
le
9/2/2019

Une fois n’est pas coutume, nous ne vous parlerons pas d’intelligence artificielle et de banque, de machine learning et de finance de marché.

Une fois n’est pas coutume, nous ne vous parlerons pas d’intelligence artificielle et de banque, de machine learning et de finance de marché. Aujourd’hui, nous souhaitons nous ouvrir à la société, pour laisser la parole à Yoshua Bengio qui dénonce les dérives liées à l’intelligence artificielle en Chine en terme de contrôle des populations.  Yoshua Bengio est un informaticien qui considéré comme un des pères du “deep learning” aux côtés de Yann Lecun et Geoffrey Hinton. Lors d’une interview accordée à Bloomberg, il s’est montré très critique, et peu rassuré quant aux travaux sur l’intelligence artificielle effectués en Chine.

Yoshua Bengio : l’un des pères fondateurs du deep learning

« C’est le scénario du Big Brother de 1984. Je pense que ça devient de plus en plus effrayant, » a-t-il déclaré. Cet enseignant de l’Université de Montréal a de quoi s’inquiéter. La mise en application sous le régime de Pékin est assez spectaculaire, et loin du respect des libertés individuelles. Effectivement,  la Chine compte refuser certains services à ses citoyens qui auront écopé d’une mauvaise « note sociale » ? L’épisode « Nosedive », qui ouvrait la saison 3 de Black Mirror, imaginait une société régulée par la notation. C’est exactement ce qui est train de se passer en Chine.

IA_En chine le gouvernement attribuera des notes sociales avec la reconnaissance sociale

Le gouvernement chinois l’a annoncé : l’accès aux avions et aux trains pourra être refusé aux citoyens qui écopent d’une mauvaise « note sociale ». Si vous avez perturbé un vol  ou déclenché une fausse alerte pour terrorisme, si vous avez présenté des titres de transport périmés ou fumé dans les trains vous pouvez être “blacklisté” avec pour conséquence une interdiction de voyager, selon une note officielle du gouvernement chinois transmise par l’agence Reuters. La Chine compte donc bien refuser certains services à ses citoyens qui auront écopé d’une mauvaise « note sociale » ? L’épisode « Nosedive », qui ouvrait la saison 3 de Black Mirror, imaginait une société régulée par la notation. C’est dans le cadre de ce programme qu’une province a lancé une application permettant de dénoncer des mauvais payeurs à proximité.


Le gouvernement chinois l’a annoncé : l’accès aux avions et aux trains pourra être refusé, dès le 1er mai 2018, aux citoyens qui écopent d’une mauvaise « note sociale ». Avoir perturbé des vols ou déclenché une fausse alerte pour terrorisme, avoir présenté des titres de transport périmés ou fumé dans les trains compteraient parmi les raisons d’être placé sur liste noire avec interdiction de voyager, selon une note officielle relayée par l’agence Reuters. Ce statut de mauvais payeur est directement lié à un programme de note sociale qui sera finalisé en 2020 pour tous les citoyens chinois. Ce même programme étant associé à un vaste soutien technologique, notamment grâce à l’intelligence artificielle. À travers la reconnaissance faciale, les habitants sont suivis et l’on peut dégrader leur note s’ils traversent lorsque le feu est rouge par exemple. « L’utilisation de votre visage pour vous localiser devrait être fortement réglementée, » complétera Yoshua Bengio. Pour lui, la quantité de données que les géants de la technologie en Chine et partout dans le monde est problématique. Les gouvernements doivent pouvoir faire émerger des organes de confiance, capables de créer des paramètres légaux autour du traitement de la donnée et de leur propriété.