COMO OS ALGORITMOS ESPALHAM RACISMO E DESIGUALDADE DE GÊNERO

Sabe quando o celular agrupa todas as fotos de animais ou de comida? É a mágica do algoritmo facilitando a vida do usuário. No entanto, a tecnologia também pode ser racista e machista. Entenda o porquê.

#Tecnologia #Algoritmo #Tilt

Bem-vindos ao canal MOV.doc, do UOL
Siga o MOV nas redes sociais:
Instagram @mov_uol
Twitter @mov_uol

[cidaribeiro]

Conteúdo necessário. A tecnologia é mais um reflexo de como a sociedade vê a nos negros. Ter que lutar contra isso torna nossa luta muito desigual.

[luanadaltro]

Que demais! Obrigada pela matéria e entrevista <3

[fabriciagarcia]

O problema aqui não e o algoritmo e sim os dados que os alimentam.

[fyrsgora]

Acredito que o problema não está nas inteligências artificiais ou algoritmos em si, e sim em quem os desenvolvem, isso não é um problema novo, é apenas uma nova área onde infelizmente o racismo estrutural se instalou e foi ocupando espaço de maneira lenta e imperceptível até o presente momento. Pessoas em viés, logo seus algoritmos também terão! Isso significa que antes de colocar os problemas em cima de algo novo, devemos olhar para suas raízes e então buscarmos uma solução para esses problemas, e claramente é algo que leva tempo, pois está enraizado em diversos âmbitos da sociedade.

[lordsmobile]

Achei confuso. Desculpem minha ignorância de nao pesquisador. Minha percepção sobre o vídeo é a seguinte. Tem horas que responsabiliza o sistema pela falha, tem outro momento que imputa o problema as pessoas que o alimentam, pois reflete a discriminação da sociedade. Na hora de exemplificar vem com casos de erros técnicos de identificação como confundir rosto de pessoas negras mulheres com homens ou com animais. Deu exemplo do beneficio de acesso a tratamentos mais caros e a empregos, culpa do sistema ? do algoritmo ? ou dos usuários ? Se não esta adequado é necessário que se corrija como qualquer situação fora do desejado. Ótimo que identificaram algo discrepante... Cabe os ajustes para os fins que desejam...

[marinamatiascorte]

Luana, entenda: você é um ícone. <3

[thiagorbrandao]

Aí o problema é muito além do racismo, é abrir mão de escolhas sérias e deixar isso para um programa que foi feito previamente, é escolher na realidade sem saber exatamente qual a situação, afinal a programação é prévia

[guilhermefigueiredo]

Minha opinião sobre o assunto, na verdade eu considero algo não tão difícil de pensar sobre. Simplesmente eu acho que programadores e desenvolvedores de IA (Inteligência Artificial) antes de por exemplo for colocar em "ação" alguma tecnologia envolvendo reconhecimento facial e outras do gênero, devem discutir com não só outros desenvolvedores, mas com pessoas que podem possivelmente ter algum tipo de problema com isso em questão de falhas da tecnologia. E claro que testar e muito antes de ser usada a tecnologia, forçar o comportamento da tecnologia com algo que pode gerar alguma falha, pois nós que programamos, eu acredito que essas falhas podem ser evitadas se programassem a IA para ser mais inteligente. Talvez com uma tecnologia mais avançada esses problemas não aconteçam mais, porém poderiam ser evitadas sim, até mesmo se uma tranca de reconhecimento facial por exemplo, apresentasse falhas desse tipo, eu consideraria melhor que não fosse usada essa tecnologia.

[Auloss]

o google pesquisa por palavras chave que vc pesquisou, se tu pesquisou CABELO FEIO e a porra da entrevista literalmente tem CABELO FEIO escrito na porra do nome, o que tu espera que aparece?

[ReMeetoo]

Muito bom o documentário. ACredito que grande causa seja o reflexo do racismo na sociedade, sendo que temos menos pessoas negras trabalhando em certos cargos (nesse caso, desenvolvedores de software ou produtos) e assim, os produtos criados refletem seus criadores - nem sempre de forma proposital. Se trabalharmos na diversidade e na inclusão de pessoas diversas (nesse vídeo focou mais no racismo e desigualdade de genero, mas também temos questão LGBT, pessoas com deficiência etc) nos times de desenvolvimento, menos teremos esse tipo de problema e os algoritmos podem diminuir ou parar de reproduzir preconceitos.

[gus]

Pessoal esse exemplo da Luana está bem puxado.

Na maioria das vezes Algoritmos de pesquisa do Google são baseados em texto, e o texto do artigo da foto da Luana tem “cabelo feio” e esse eh o principal motivo do qual a foto dela ainda aparece na pesquisa em português.

Faz um teste procure por “ugly Hair”...

[bruninhagatinha]

legal, quando são descobertos aí pedem desculpas e arrumam o sistema . sendo o algoritmo foi intencionalmente criado pra ser assim. e como racismo é crime, os responsáveis tinham que ir pra cadeia e o banimento do Google por reincidência promovido

[danielshinogure]

Sinto muito, mas nem todas as mulheres da Terra são bonitas, podem até querer obrigar o Google a colocar todo tipo de mulher nas imagens de mulheres bonitas, mas isso só vai servir no mundo virtual, no mundo real isso nunca terá influencia

[bhonbhon]

Gente! Existe, existee, existeee... Pessoas bonitas e pessoas feias. Existem cabelos bonitos e cabelos feios. Quem define a beleza??? Nossos olhos... NOSSOS OLHOS!
Independente de cor da pele, independente de raça.
E isso nao vai mudar nunca, só temos que respeitar o outro.

[LucasAmonatiKhingKliemczak]

Aposto que a autoria desse vídeo é de alguém que não sabe nem escrever uma linha de código.

[marcelinobatista]

4:50 pesquisar mulher bonita, retornou a foto do Eduardo Costa que situação

[bruninhagatinha]

a beleza é subjetiva, mas o nariz fino e pontudo é o sonho de qualquer, basta ver em cirurgias plásticas de nariz, 99% quer um nariz fino e pontudo.

[sergiomcfly]

EM ALGUM PONTO EU VOU DISCORDAR
Sou programador e trabalho com "o nervo facial em linguagem C" ... Existem mulheres SIM com traços de homem e vice-versa. Essa conta é calculada por distância em 128 pontos da face [algorítimo de Eucledean]. PODE COINCIDIR SIM !! .... É a mesma coisa qnd vc confunde "a olho nu" uma pessoa por homem ou mulher ... O q de fato é ERRADO é o software alegar ou definir q aquele cidadão tem o GENDER feminino ou masculino, ele pode sim responder: "INDIVÍDUO COM TRAÇOS FEMININO/MACULINO" em acôrdo com a média visual da massa social

[cachacahumana]

Traduzindo:vamo colocar racismo em tudo pra controlar ainda mais os gados ideológicos

[PsyFernando]

Quando se parte das premissas erradas sempre chegará a conclusões erradas.