IA e Sociedade (semana 4)

Após 3 semanas do último curso de Andrew Ng (AI for everyone), você adquiriu uma boa compreensão do que é IA, de como desenvolver projetos envolvendo modelos de Machine Learning (Deep Learning in particular) e os passos para começar a usar a IA em seu negócio (bem como em uma associação ou um organismo público) para transformá-lo em um negócio de IA. Nesta semana 4 (última semana do curso), você vai aprender e refletir sobre o impacto da IA além do hype e sobre os impactos da IA na sociedade.

Este artigo faz parte da série “Deep Learning in Practice” (leia-se também versões em francês e em inglês).

Lista de artigos “IA para todos”

1. IA para todos (semana 1)
2. Desenvolvendo projetos de IA (semana 2)
3. Construindo IA em sua empresa (semana 3)
4. IA e Sociedade (semana 4)

Introdução

Agora que você tem um conhecimento geral da IA pela semana 1 do último curso de Andrew Ng (AI for everyone), você sabe como treinar um modelo de Machine Learning pela semana 2, e você tem uma metodologia para usar a IA na sua empresa para transformá-la em um negócio IA pela semana 3, você vai aprender e refletir sobre o impacto da IA além do hype e sobre os impactos da IA na sociedade nesta semana 4!

De fato, com base em sua experiência no uso da IA no mundo dos negócios, Andrew Ng nos guia nesta semana 4 na compreensão das limitações da IA (bias, ataques adversários, DeepFakes …) e seu impacto sobre nosso cotidiano (desenvolvimento da economia, empregos…), especialmente nos países em desenvolvimento, bem como sobre as questões éticas levantadas pela utilização da IA.

Andrew Ng enfatiza a importância desta última parte do curso que qualquer modelo de IA desenvolvido por uma pequena ou grande empresa pode ter um impacto significativo sobre um grupo menos ou grande de pessoas.

O conteúdo deste MOOC é gratuito e aqui estão os principais elementos da semana 4.

Crédito: todas as imagens deste artigo são do MOOC do Andrew Ng, AI for everyone.

Dicas para um formador

O conteúdo desta semana 4 contém todos os elementos essenciais para a compreensão dos impactos da IA sobre a nossa sociedade.

O formador deve apresentar o conteúdo do curso de forma não técnica, baseada em estudos e casos. Este método de ensino ajudará os participantes (especialmente aqueles que não têm conhecimento técnico) para se concentrar no conteúdo do curso.

Pontos-chaves da semana 4

. Uma visão realista da IA . Discriminação / vieses . Ataques adversários contra a IA . Usos negativos da IA . IA e economias em desenvolvimento . IA e emprego . Conclusão

Uma visão realista da IA

A IA está mudando a nossa sociedade mas não devemos ser nem otimistas demais na chegada de uma superinteligência (GAI: General Inteligência Artificial) que dominaria a humanidade (ele n ‘ não acontecer até talvez dezenas ou centenas de anos), nem muito pessimista com a ideia de que desde IA não pode resolver qualquer atividade, a IA vai parar (vemos que os “simples” modelos Supervised Learning para prever uma saída B a partir de um dado na entrada A já mudam profundamente indústrias).

Esta é a realidade da IA: apesar das suas limitações (veja abaixo), pode fazer muitas coisas.

• Com poucos dados, o desempenho da AI é baixo, e mesmo com grandes quantidades de dados, às vezes é impossível para automatizar um processo com um modelo de IA com um alto nível de confiança. Por exemplo, ele vai ser tão difícil para automatizar todos os processos de um call center, especialmente os processos de linguagem natural como entender um e-mail e criar automaticamente o texto da resposta a ele.
• Há também o problema da caixa preta (explainability), ou seja, a incapacidade de explicar por que um modelo de IA dá uma previsão particular. Esta questão é objeto de investigação significativo e soluções começam a aparecer, tais como a capacidade de visualizar a área de uma imagem a partir do qual o modelo tem construído a sua previsão (ou seja, o seu diagnóstico se for para imagens de radiologia).

No entanto, se uma equipe IA do mundo corporativo dá uma explicação suficiente sobre o funcionamento do seu modelo, sua implantação será geralmente aceita (e especialmente se o desempenho do modelo de IA é alta). Naturalmente, essa abordagem diz respeito a modelos sem consequências diretas em elementos vitais, como saúde ou segurança no trânsito. De fato, essa lógica muitas vezes se aplica ao raciocínio humano que às vezes tem dificuldade em explicar precisamente um fenômeno (qual é a sua definição de uma caneca?) No entanto, isso não impede a implantação de uma solução.

Existem outras limitações da IA ​​com as quais precisamos nos preocupar, como:

• vieses nos modelos de IA de gênero ou etnia quando os dados de treinamento conter este tipo de vieses,
• os ataques adversários (adversarial attacks) dos modelos de IA têm impactos particular n as atividades de um negócio ou na economia de um país.

Discriminação / vieses

Por que um modelo de IA desenvolve vieses de gênero e etnia? A origem do problema é que os dados de treinamento contêm esses vieses. Tomemos o exemplo da pesquisa feita pela Microsoft em um modelo baseado em textos encontrados na Internet. Podemos ver no próximo slide que o modelo aprende a representar relações entre palavras pelos vetores. Assim, o mesmo vector que conecta as palavras “Homem” e “Mulher” conecta as palavras “Programador de computador” e “Dona de Casa”, resultando em outro vetor conectar as palavras “homem” e “Programador de computador” e … portanto “Mulher” e “Dona de casa” (…).

Como os modelos de IA são cada vez mais utilizados, o fato que eles contêm vieses é um problema. Por exemplo, um software de recrutamento usando a IA poderia discriminar as mulheres em cargos de gerência, um aplicativo de reconhecimento facial de IA poderia funcionar melhor em rostos com pele clara do que com pele mais escura se as imagens de treinamento foram desequilibradas em termos de classes e por fim, a resposta de um software de IA para um pedido de empréstimo poderia ser tendenciosa em relação a parâmetros étnicos.

Além disso, dada a importância do uso dos motores de busca na Internet, devemos ter cuidado para que os resultados de busca não reforcem os estereótipos, ou seja, seus modelos de IA não são tendenciosos.

A comunidade de IA já começou a combater vieses em modelos de IA. A solução técnica é mudar os valores aprendidos para determinadas palavras, mudando assim os vetores associados. Outra solução é corrigir os vieses nos dados de treinamento. Além disso, quanto mais aberto o modelo e o processo de auditoria transparente, mais pessoas podem detectar — e possivelmente corrigir — vieses. Como continuação dessa ideia, quanto mais diversificada for a equipe de IA, menos tendenciosos serão os modelos de IA.

Ataques adversários contra a IA

Existe um problema importante e ainda não resolvido com os modelos de ML e especialmente aqueles que usam o Deep Learning: eles são sensíveis a ataques adversários, isto é, ações deliberadas para enganar um modelo.

Por exemplo, é possível, alterando os valores de alguns pixels de uma imagem para enganar um classificador enquanto visualmente nós (seres humanos) não consegue detectar as alterações. A explicação é esta: um modelo ML “vê” uma imagem como uma série de números que representam o brilho de uma cor RGB (vermelho, verde, azul). Estes números na entrada do modelo, então, vão passar por uma série de transformações matemáticas (ou seja, através de cálculos de funções aprendidas durante o treinamento) para produzir uma previsão na saída B. Ao alterar o valor de alguns pixels, o resultado das operações matemáticas pode ser suficientemente modificado para dar uma falsa probabilidade da classe da imagem.

Também é possível editar/alterar uma foto antes de ser avaliado na entrada de um modelo ML com informação visual suficiente para enganar o modelo sobre a natureza da imagem de modo que nós (seres humanos) vão continuar a ver e detectar as principais informações da foto. Isso é chamado de ataques físicos.

Por exemplo, um par de óculos podem alterar o resultado de um modelo de reconhecimento facial (pesquisa da Carnegie Mellon University) como adesivos em um sinal de estrada (pesquisa da Universidade de Michigan) ou um adesivo colocado ao lado de uma banana (pesquisa do Google AI). Essa informação visual adicionada na verdade oculta informações importantes para a tomada de decisões pelo modelo e/ou introduz novas informações que enganarão o modelo.

O campo de pesquisa para combater os ataques adversários começou em 2015 (adversarial defense), mas as soluções encontradas para tornar os modelos mais robustos não são perfeitos e têm um impacto sobre a velocidade dos cálculos (ou seja, modelos com mais parâmetros, portanto, mais lentos). Esta é uma questão particularmente problemática para todas as áreas, como saúde, segurança, carros autônomos onde a confiabilidade do modelo de IA é um critério prioritário (artigo para entender os mecanismos de ataques adversários e soluções atuais para combatê-los; concurso lançado pelo Google sobre o assunto : Unrestricted Adversarial Examples Challenge).

Usos negativos da IA

Além dos usos de negócios da IA, existem também usos negativos como:

• DeepFakes (criação de vídeos realistas mas falsas como essa do Barack Obama publicado pelo site BuzzFeed): modelos de IA para detectar DeepFakes existem hoje, mas eles devem ser regularmente actualizados e o problema é que na época das redes sociais, uma vez que um vídeo se tornou viral, embora tenha sido reconhecido como DeepFake, muitas pessoas já foram atinjidas pela sua mensagem. Quais são as possíveis consequências para a democracia e a privacidade?
• falsos comentários: a geração automática por um modelo de IA de comentários falsos em sites e redes sociais é hoje possível com objetivos de prejudicar políticamente ou comercialmente. Quanto aos DeepFakes, existem modelos de IA para detectar esses comentários falsos, mas é uma corrida sem fim entre falsários e autoridades.

IA e economias em desenvolvimento

Enquanto os países desenvolvidos se construíram no tempo criando novas indústrias e formas de vida com base em suas realizações, as economias em desenvolvimento estão pulando algumas evoluções através do uso de tecnologia criada por outros como telefone celular versus telefone com fio, pagamento móvel versus cartão de crédito ou educação on-line versus ensino presencial.

A IA pode produzir o mesmo resultado. De fato, se os países EUA, China, Reino Unido e Canadá são desenvolvidos com um avanço na adoção da IA, ainda estamos no início dessa revolução. Andrew Ng aconselha as economias em desenvolvimento não reconstruir o que já existe como um motor de busca na Web, mas em vez de usar a IA em suas indústrias específicas (indústrias verticais), onde não existe nas economias desenvolvidas de modelos especializados de IA. Andrew Ng também aconselha as economias em desenvolvimento de investirem em parcerias público-privadas, bem como na educação em IA dos seus cidadãos.

IA e emprego

A automação das atividades pela IA já tem um impacto sobre o emprego, mas como mostrado por um estudo do McKinsey Global Institute, este movimento vai certamente acelerar para alcançar 800,000 milhões de empregos (leia também: estudos do PwC e do Banco da Inglaterra). No entanto, o que o estudo mostra é que haverá um número potencialmente maior de novos empregos: drone traffic optimizer, 3D-printed clothing designer ou na saúde, haverá custom DNA-based drug designers.

Se você está preocupado com a possível substituição do seu emprego pela IA, pergunte-se a questão do número de tarefas de seu trabalho que podem ser automatizados. Esta é a metodologia utilizada em estudos anteriores, bem como o do OCDE (leia o estudo publicado pela revista The Economist) para estimar os empregos automatizáveis ​​e o número de pessoas envolvidas.

Quais soluções para essa transformação pela IA de nossa sociedade e modo de vida?

• A primeira possibilidade é a de proporcionar a todos um salário mínimo mas condicionado (conditional basic income). A idéia é baseada no salário mínimo universal com bônus para aqueles que continuam a estudar e trabalhar.
• A segunda é mudar a nossa forma de aprender e construir uma sociedade em que a aprendizagem é constante ao longo da vida (building a lifelong learning society) e não se limita aos nossos anos de juventude, porque para manter nossos empregos evoluindo como resultado da IA, você terá que aprender novos conhecimentos.
• Finalmente, existem soluções políticas para apoiar a transformação da sociedade e ajudar as pessoas a manter seus empregos.

Em um nível pessoal, devemos todos complementar nosso conhecimento atual com um conhecimento de IA. Não é uma questão de escolher um ou outro, mas para aprender a usar a IA para evoluir os nossos postos de trabalho existentes.

Conclusão

Este curso de 4 semanas ajudou a entender o que a IA, a saber desenvolver um projeto de IA, a saber transformar sua empresa em um negócio de IA e, finalmente, para compreender os impactos da IA na sociedade.

Agora cabe a você continuar aprendendo a IA!

Sobre o autor: Pierre Guillou é um consultor em inteligência artificial no Brasil e na França. Por favor, entre em contato com ele através do seu Perfil do Linkedin.