Se não houver diversidade entre os profissionais no desenvolvimento da tecnologia de inteligência artificial, o maior risco não será a tomada de poder pelos robôs, mas a falta de representatividade, com sérias consequências.

A necessidade de diversidade na tecnologia não é assunto político, mas uma constatação. Se você não percebe a importância da inclusão, temos um grande problema. Se você entende que a inclusão é tema primordial, mas não enxerga a correlação entre os assuntos, o problema é menor; e fico feliz de ter sua atenção.

Trabalho com empreendedorismo e marketing digital. Produzo cursos e, por isso, os temas vão se abrindo como uma raiz de árvore; assim, desperto para assuntos cuja análise é imprescindível.

Meu Processo Criativo é Humano de Mais

Produzo conteúdos de uma forma meio estranha; penso em tema, defino o título e abro um arquivo para essa nova ideia. Se a ideia ainda não estiver 100% formatada, ela entra numa quarentena.

Tenho mais de 1000 arquivos com título, uma linha com a ideia básica e diversos tópicos. Depois espero que leituras e o dia a dia me apresentem informação suficiente para respaldar ou desbancar minha ideia inicial.

Esses arquivos podem ficar dias, meses ou até anos esperando. É um processo que poderia ser chamado de inteligência humana, porque depende de um humano aprender, ir lá e fazer.

É a mesma fase que estamos em termos de inteligência artificial. Afinal, humanos estamos criando os algoritmos que analisarão as relações entre os dados; a partir de bases, critérios e informações de inteligência que passará ser chamada de artificial, por ser (relativamente) autônoma.

Assim, estava lendo uma página quase toda em branco desses meus futuros artigos, com um título: O futuro é analógico. E, a fim de justificar meu interesse pelo assunto, cai num artigo do The Learning Blog do Linkedin sobre as habilidades mais demandadas pelas empresas em 2019. Não deixe de ler o artigo original, porque ele diz muito sobre empregabilidade. Aí despertei para importância da diversidade na tecnologia.

Numa leitura rápida, parece que a grande maioria das habilidades tem base técnica. Entretanto, quando associamos as habilidades ao momento atual, em que estamos definindo os critérios de análise de dados para a educação dos “robôs” da inteligência artificial, nota-se que a demanda por habilidades humanas nesta fase é bastante grande.

Os Números da Diversidade da Tecnologia

Os menos representados lutam por espaço e por sua participação devida na cultura, emprego, estudo e sociedade. O caminho já foi definido, agora é preciso seguir com a luta.

Assim, se por um lado é animador perceber o despertar da necessidade de se lutar por representatividade, creio que ainda é restrita a percepção da extensão das batalhas necessárias.

Isso porque há uma área, a tecnologia, onde a falta de entendimento do momento, tanto por incluídos como por excluídos cria um sério risco. Risco esse que pode resultar em uma alienação futura ainda maior dos grupos hoje menos representados.

Todo o progresso que se alcançou pode ser perdido e talvez se volte a um estágio ainda anterior ao atual. E esse risco tem a ver com a inteligência artificial. Explico.

Sou homem, branco, heterossexual, casado, 55 anos, 1 filho, empreendedor digital. Fora a idade, sou o estereótipo de quem trabalha com tecnologia, ainda que para mim ela seja atividade-meio.

Mulheres, apesar de a criadora da programação de computadores ter sido uma mulher – Ada Lovelace, têm representatividade perto de 25% nos trabalhadores de área ligadas à tecnologia. Em igual sentido, o pioneirismo de Mary Jackson, mulher negra, engenheira da NASA na década de 1950, não teve o impacto desejado, pois negros representam pouco mais de 10% dos profissionais de tecnologia.

Não creio que haja estudo sobre a participação LGBT na tecnologia, mas não acredito que haja, diretamente, barreira de entrada. Profissionais maduros também participam, mas em menor escala. Paremos por aqui nessa parte da análise e pensemos no contexto da diversidade na tecnologia.

O Respaldo Para Minha Visão

Foi vendo a entrevista da Melinda Gates que tive a complementação que precisava para terminar meu texto. Veja no Netflix sua entrevista para o David Letterman no My Next Guest Needs No Introduction. Bem, na verdade, a inspiração foi criar este artigo, um spin off do assunto original (O Futuro é Analógico).

Melinda é co-fundadora e presidente da Fundação Bill and Melinda Gates, a maior instituição filantrópica do mundo, e gere mais de 50 bilhões de dólares.

A entrevista foi tão boa, que acabei de ver e comprei o livro dela no Kindle, The Moment of Lift: How Empowering Women Changes the World; O Momento da Elevação: Como Potencializar Mulheres Muda o Mundo. O livro ainda não está disponível em português. O livro deve chegar logo. É um livro que deve ser lido por todos.

Não vou dar spoiler, apenas dizer que ele fala de dar poder às mulheres, principalmente, e também aos menos representados, e que o momento é agora. Ela enumera muitos motivos lógicos e alguns inesperados para a inclusão e uniformidade de oportunidades, mas me inspirou a ver algo além.

A entrevista no Netflix e o livro me ajudaram a adiantar bem o texto de O Futuro é Analógico e ainda gerou este, sobre a importância da diversidade em tempos de inteligência artificial.

Como Funciona a Inteligência Artificial

Sistemas ou robôs, como as mídias tradicionais gostam de chamar, serão programados a fim de extrair inteligência dos dados desse mundo de informação disponível por aí.

Então, por associações, estudos, tecnologias e critérios pensados e inseridos por humanos, buscarão soluções para problemas e angústias, atuais e futuras, de diversas áreas.

A partir daí, programações de altíssimo nível permitirão que processos chamados de inteligência artificial possam identificar relações, pesquisar na base de critérios originalmente inseridos ou extraídos e propor soluções. A expectativa é que essas propostas sejam mais rápidas e precisas que as atuais (humanas)

E, ao longo do processo, a inteligência artificial agregará ainda mais conhecimento e associações, a fim de aprimorar as soluções já disponíveis, e propor, no futuro, novas, melhores e ainda melhores soluções para atuais e futuros problemas.

Agora, e quanto a quem treina? Afinal, qual a importância de se ter efetiva diversidade na tecnologia?

Os Riscos

H. P. Lovecraft foi autor americano de livros sombrios de ficção cientifica. Ele previu em 1930, com sua pegada pessimista, o risco de conseguirmos agrupar conhecimentos dissociados.

“The most merciful thing in the world, I think; is the inability of the human mind to correlate all its contents. We live on a placid island of ignorance in the midst of black seas of infinity,. and it was not meant that we should voyage far. The sciences, each straining in its own direction, have hitherto harmed us little; but some day the piecing together of dissociated knowledge will open up such terrifying vistas of reality; and of our frightful position therein, that we shall either go mad from the revelation or flee from the light into the peace and safety of a new dark age.”

A coisa mais abençoada no mundo, penso, é a inabilidade da mente humana de correlacionar assuntos. Vivemos numa pacata ilha de ignorância, cercada de mares negros de infinitude; e não parece que não é nosso destino ir muito longe. As ciências, cada qual seguindo numa direção própria, até agora nos causou poucos danos; mas, algum dia, o agrupar de peças de conhecimentos dissociados, abrirá imagens tão terríveis da realidade, e de nossa assustadora posição nessa realidade; que ou ficaremos loucos pela revelação ou fugiremos da luz, para buscar paz e abrigo numa nova idade das trevas. HP Lovecraft

Meio assustador e tudo mais, entretanto, ele afirma que há positividade na dissociação de conhecimentos. E mais, diz que correlacionar esses conhecimentos seria algo complexo e que, se não fosse feito de forma competente, podia gerar uma nova e assustadora realidade.

Certamente ele nem considerava a diversidade na tecnologia, mas apenas a integração de conhecimentos.

Então a Inteligência Artificial Dificultará Ainda Mais a Inclusão?

Sim, se no processo de inserção e criterização (se é que essa palavra existe…) de conhecimento, não se cuidar de ter diversidade na equipe de desenvolvimento, isso é possível.

Há estudos que mostram informações e correlações tendenciosas produzem resultados tendenciosos. Veja este artigo (em inglês) mostra como essa possibilidade funciona Why your AI might be racist and what to do about it (Porque sua inteligência artificial pode ser racista e o que fazer sobre isso).

O artigo conta a história de um “robô” alimentado por inteligência artificial, vinda do feedback do seu relacionamento com humanos, em pouco tempo começou a ter comportamento racista e sexista.

Estamos numa fase crítica da inteligência artificial, de análise e processamento de big data para criação de big knowledge, do grande conhecimento. Essa etapa, de definição dos critérios de análise de montante de informação disponível está acontecendo agora.

Esses critérios interferirão fortemente no processo inicial da inteligência artificial. Afinal, o uso da IA afeta a vida de todas as pessoas; e não apenas de homens brancos, jovens, de classe média/alta e com formação superior, o padrão mais representativo do atual do trabalhador de tecnologia.

Isso afeta áreas como como Saúde, Medicina, Educação, Agricultura, Indústria, Transportes, Direito, Marketing, entre tantas outras. Novamente, escolho uma área apenas para respaldar a minha premissa.

A Pesquisa e a Diversidade na Tecnologia

Consideremos, para fins dessa análise, a área de medicamentos inteligentes. Com a inteligência artificial, certas possibilidades, enfim, serão possíveis, como telemedicina, telecirurgia, remédios inteligentes e outras.

Por meio da inteligência artificial, mais especificamente, os “robôs” poderão analisar características pessoais, históricos, sintomas e resultados de exames, a fim de prescrever remédios em dosagens específicas para uma determinada pessoa. Tudo é perfeito na teoria.

Agora, e se, por exemplo, quem criou os critérios não souber ou não considerar que negros têm mais propensão de ter problemas cardíacos, e que remédios, hoje utilizados em tratamentos de prevenção de problemas cardíacos, têm menor efeito neles?

Um estudo do site Propublica mostra que negros e índios americanos são sub-representados nos estudos de novas drogas, mesmo quanto o tratamento é direcionado para um tipo de câncer que os afeta em maior proporção. Igualmente, diz-se que os remédios, pelo simples fatos de mais ratos machos que fêmeas serem usados nas pesquisas, têm efeito menor em mulheres.

A inteligência artificial terá que ir além em problemas que foram e são desconsiderados nas pesquisas. Espera-se mais da inteligência artificial que informar que grávidas não devem tomar certos remédios, que pode haver interação medicamentosa (negativa), ou, ainda que determinados remédios para hipertensão são menos efetivos em pacientes negros. Demanda-se mais de uma tecnologia tão disruptiva.

Independentemente de preparo, estudo e capacidade analítica, ninguém sabe mais de si e dos seus do que a própria pessoa. E é inegável que a diversidade na tecnologia interfere no processo de criação dos critérios, da programação e da análise de dados.

O Aspecto Humano Ainda é Essencial

Alguns consideram que a ciência deve ser cética, desprovida de maiores envolvimentos humanos, entretanto isso é algo repetidamente desbancado. Até por isso, não creio que a alteridade, algo como uma empatia desprovida de emoções, ou nem mesmo a empatia profunda, seja suficiente nessa fase de criação de critérios, ou como HP Lovecraft falou, de correlacionamento de conhecimentos. É preciso a vivência, a experiência real para poder agregar.

“Try walking in my shoes. You’ll stumble in my footsteps”.

Tente andar com meus sapatos. Você tropeçará nas minhas pegadas. Depeche Mode

Assim, se há poucos negros na tecnologia, eles não estarão perfeitamente representados nas respostas futuras dessa possibilidade tecnológica. Isso acontecerá, igualmente, com mulheres, LGBTs, maduros e todos os outros grupos acêntricos à equipe desenvolvedora.

O medo da distopia da tomada de poder pelos robozinhos da inteligência artificial deve ser colocado em segundo plano. Porque é mais importante que a luta por representatividade passe, também, por se buscar mais diversidade na tecnologia, principalmente no momento de definição dos critérios e associações de conhecimentos da inteligência artificial.

Assim, se você erra na educação do robozinho, ele continuará cometendo os mesmos erros que hoje são cometidos. Porque ele até vai aprender, mas jamais, partindo de uma premissa errada ou incompleta, chegará a um resultado ideal.

“Almost always the creative, dedicated minority has made the world better.”

“Quase sempre, a minoria criativa e dedicada tornou o mundo melhor.“ Martin Luther King Jr.