Por que a inteligência artificial não conseguia imaginar uma mulher como eu — até agora

Talvez não pareça grande coisa, mas este é um ponto importante para milhões de pessoas com deficiência.

“A representação na tecnologia significa não ser visto apenas como uma reflexão tardia, mas como parte do mundo que está sendo construído”, afirma Smith.

“A IA está evoluindo e, quando ela evoluir com base na inclusão, todos nós nos beneficiaremos. É mais do que um progresso tecnológico, é um progresso da humanidade.”

Um porta-voz da OpenAI, responsável pelo ChatGPT, declarou que, recentemente, a empresa “fez melhorias significativas” do seu modelo de geração de imagens.

“Sabemos que os desafios permanecem, particularmente em termos de representação justa, e estamos trabalhando ativamente para melhorar isso, incluindo o refinamento dos nossos métodos pós-treinamento e acrescentando novos exemplos com diversidade, para ajudar a reduzir o viés ao longo do tempo”, informou a empresa.

Embora a IA, agora, reconheça a deficiência de Smith, Naomi Bowman ainda vivencia um problema similar.

Ela só tem visão de um olho e pediu ao ChatGPT para omitir o fundo de uma fotografia. A IA fez a alteração, mas também “mudou completamente o meu rosto e igualou meus olhos”.

“Mesmo quando expliquei especificamente que eu tenho uma condição em um dos olhos e pedi que ele deixasse meu rosto sem alteração, ele não conseguiu editar a foto”, ela conta.

Inicialmente, Bowman achou engraçado, mas, agora, ela fica triste, “pois mostra o preconceito inerente na IA”.

Ela pede que os modelos de IA sejam “treinados e testados rigorosamente para reduzir o preconceito da IA e garantir que os conjuntos de dados sejam suficientemente abrangentes para que todos sejam representados e tratados de forma justa”.

Algumas pessoas preocupadas com o impacto ambiental da IA também já criticaram a criação de imagens no ChatGPT.

Representação cultural

Os especialistas afirmam que o preconceito na inteligência artificial, muitas vezes, reflete os mesmos pontos cegos existentes na sociedade como um todo, não apenas as deficiências mal representadas.

Abran Maldonado é CEO (diretor-executivo) da Create Labs, uma empresa americana criadora de sistemas de IA culturalmente conscientes. Ele afirma que a diversidade na IA começa nas pessoas envolvidas no treinamento e na marcação dos dados.

“É questão de quem está na sala onde os dados estão sendo construídos”, explica ele. “Você precisa de representação cultural na etapa de criação.”

Nem tudo é representado corretamente na internet. Maldonado destaca que, se as pessoas que vivenciaram as experiências não forem consultadas, a IA sairá perdendo.

Um exemplo conhecido é um estudo do governo americano em 2019, que concluiu que os algoritmos de reconhecimento facial identificam rostos asiáticos e afroamericanos com muito menos precisão, em comparação com caucasianos.

Conversas desconfortáveis

Mesmo vivendo com um só braço, Jess Smith não se considera deficiente. Ela afirma que as barreiras que ela enfrenta são sociais.

“Se eu usar um banheiro público e precisar manter a torneira abaixada, isso prejudica minha capacidade, não porque não posso fazer, mas porque o designer não pensou em mim”, ela conta.

Smith acredita que existe o risco de que a mesma omissão ocorra no mundo da IA, onde os sistemas e espaços são construídos sem considerar a todos.

Quando Smith compartilhou sua experiência original no LinkedIn, alguém enviou a ela uma mensagem para dizer que seu aplicativo de IA criou uma imagem de uma mulher com um braço só.

“Tentei criar e aconteceu o mesmo, não consegui gerar a imagem”, ela conta.

Ela informou a pessoa, mas nunca recebeu resposta. Isso ocorre com frequência nas conversas sobre deficiências, segundo Smith.

“A conversa é muito constrangedora, desconfortável e as pessoas se afastam.”

.