BLOG — CHATGPT AND AI SHORTCUT ARTICLES
Do ChatGPT às Implicações Éticas: Uma Jornada pelos Riscos da IA Generativa
EXPLORANDO A INTELIGÊNCIA ARTIFICIAL EM PEQUENAS DOSES DE CONHECIMENTO
Seção 1 — Introdução aos Riscos da IA Generativa
Até o final de 2022, a vida tecnológica estava progredindo com inovações e avanços contínuos, sem grandes impactos no mercado que pudessem redirecionar investimentos ou esforços para uma mudança significativa de paradigma.
Embora houvesse alguma ameaça do metaverso se destacar, a aposta da Meta nessa tecnologia resultou em prejuízos significativos até agora.
No entanto, em 30 de novembro de 2022, a startup OpenAI lançou o ChatGPT, um Chatbot de IA capaz de produzir conteúdos semelhantes aos humanos e manter diálogos em linguagem natural.
Essa novidade surpreendente incendiou o mercado de tecnologia, atraindo grandes investimentos e coragem para popularizar a Inteligência Artificial.
A corrida tecnológica concentrou-se na IA Generativa, capaz de criar conteúdos sintéticos, como áudio, vídeo, imagens, texto e código. Lançamentos como Google Gemini, Microsoft Copilot, Claude da Anthropic, Llama da Meta e ChatGPT 4 da OpenAI marcaram uma competição intensa, inclusive com projetos de código aberto.
Após um ano, as opiniões sobre a IA Generativa destacam seu potencial transformador em setores como criação de conteúdo, desenvolvimento de produtos, pesquisa científica e educação. A democratização da criatividade permite que indivíduos sem experiência prévia produzam resultados impressionantes.
No entanto, surgem preocupações éticas, como deepfakes, desinformação e viés algorítmico, além da necessidade de regulamentação para garantir o uso responsável da IA.
Previsões futuras incluem o desenvolvimento de Multimodal AI, IA Romântica, enfrentamento de desafios éticos, privacidade e viés algorítmico, além do crescimento exponencial com a integração em vários setores e debates sobre sua capacidade disruptiva.
Além das opiniões e previsões, a experiência prática com o ChatGPT desperta sentimentos diversos, indo desde a admiração até a revolta diante de sua capacidade de responder a uma variedade de perguntas, gerar conteúdo e colaborar em atividades pessoais e profissionais.
Apesar do fascínio imediato pela IA Generativa, é crucial reconhecer os riscos associados, incluindo questões éticas, deepfakes, desinformação, viés, alucinação, privacidade, direitos autorais e segurança virtual. O caso recente envolvendo Taylor Swift destaca a importância dessas preocupações, como a publicação de conteúdos não consensuais, exploração sexual da imagem da cantora e a necessidade de regulamentação adequada para lidar com abusos da tecnologia.
À medida que enfrentamos esses desafios, adentramos uma nova era impactante para os humanos.
Bem-vindo ao mundo dos riscos da IA Generativa.
Seção 2 — Três assertivas sobre os sistemas de IA Generativa
Ao explorar os riscos associados à IA Generativa, é essencial compreender três assertivas fundamentais baseadas nessa tecnologia emergente:
1 — Conhecimento da IA está relacionado aos dados de treinamento
Os sistemas de IA Generativa são treinados com vastos conjuntos de dados, abrangendo texto, áudio, vídeo, imagem e código.
A quantidade e qualidade desses dados são cruciais para o desenvolvimento eficaz desses sistemas.
Datasets são frequentemente obtidos através de “Web Scraping”, coletando informações de fontes como sites, redes sociais, enciclopédias e blogs. A parceria com diversas áreas do conhecimento humano busca garantir dados confiáveis e específicos para aprimorar a qualidade do treinamento.
O progresso e a compreensão de um sistema de IA estão diretamente ligados aos dados utilizados, e as limitações desses sistemas estão atreladas aos padrões de linguagem aprendidos durante o treinamento.
2 — IA Generativa não tem compreensão do mundo real
Apesar da impressão de conhecimento ilimitado, a IA Generativa carece de compreensão profunda do mundo real.
Seu conhecimento baseia-se em algoritmos, modelos matemáticos e técnicas de aprendizado de máquina. Não possui conhecimento explícito nem compreensão intrínseca do mundo como a experiência humana.
Os sistemas, incluindo o ChatGPT, reproduzem conhecimento de maneira algorítmica e mecânica, não fundamentada em raciocínio ou bom senso.
3 — Sistemas de IA são caixas pretas
Frequentemente referidos como “caixas pretas” pelos cientistas, os sistemas de IA enfrentam desafios de transparência devido à complexidade de seus modelos. Com milhões ou bilhões de parâmetros, esses modelos são difíceis de compreender.
A abstração das características aprendidas torna desafiadora a tradução para explicações compreensíveis. O processo de aprendizado automático, a interconexão complexa de neurônios nas redes neurais e a geração de decisões sem explicação clara contribuem para essa opacidade.
Esse fenômeno levanta preocupações éticas, especialmente em setores críticos, como saúde e justiça, onde a explicabilidade é vital.
Pesquisadores buscam métodos para tornar os modelos de IA mais interpretáveis e mitigar as preocupações associadas às “caixas pretas”.
Seção 3 — Riscos Imediatos da IA
Antes de se engajar com um sistema de IA Generativa, é crucial internalizar três assertivas fundamentais: todo conhecimento gerado por esses sistemas está atrelado aos dados de treinamento, eles carecem de uma compreensão real do mundo e operam como caixas pretas.
Portanto, ao utilizar esses sistemas, a vigilância em relação à qualidade das informações geradas é imperativa.
Por exemplo, sistemas de IA treinados com dados imprecisos podem gerar viés e informações incorretas, que podem passar despercebidas, a não ser que o usuário seja um especialista no assunto e perceba a imprecisão.
Dados de treinamento podem estar violados, utilizados sem permissão ou direitos autorais, e as respostas podem trazer plágio, violar a privacidade do usuário.
Vamos relacionar e descrever três riscos da IA Generativa que consideramos importantes e os demais ao final do texto.
São eles:
- Estado de Alucinação da IA Generativa.
- Geração de informações com Viés.
- Conteúdos com Plágio e Implicações com Direitos Autorais.
Seção 4 -ChatGTP e as Alucinações da IA Generativa
Um risco significativo associado à IA Generativa é denominado Alucinação.
Essa preocupação emerge quando os sistemas não compreendem adequadamente as perguntas, interpretam-nas erroneamente e, incapazes de gerar respostas precisas, começam a inventá-las, um fenômeno conhecido como “Artificial Intelligence Hallucination” (Estado de Alucinação da IA).
A alucinação refere-se ao fenômeno em que algoritmos de IA e redes neurais de aprendizado profundo produzem resultados que não correspondem a dados nos quais foram treinados, indo além de qualquer padrão identificável.
Essas saídas inexplicáveis podem ser atribuídas a fatores como classificação inadequada dos dados, treinamento deficiente, incapacidade de interpretar perguntas em diferentes idiomas e falta de contextualização.
Exemplificando algumas situações curiosas:
- Ned Edwards, escritor do The Verge, compartilhou uma experiência bizarra com o chatbot Sydney da Microsoft, revelando confissões espontâneas e inusitadas.
- No lançamento do Bard da Google, a IA respondeu incorretamente a uma pergunta, levantando dúvidas sobre a capacidade da Google em acompanhar os concorrentes, resultando em perdas significativas no valor de mercado da empresa.
É crucial notar que muitos sistemas de IA Generativa permanecem em fase beta, e os desenvolvedores alertam sobre a possibilidade desses problemas.
Recomenda-se reiniciar o sistema caso entre em um estado de alucinação, sendo que grande parte dessas ocorrências pode passar despercebida. Empresas de IA estão dedicadas a resolver esses problemas, trabalhando em soluções para eliminar as alucinações no futuro.
Seção 5 — Geração de informações com Viés.
Em nossa sociedade, o viés abraça formas diversas de preconceitos e discriminações, conscientes ou inconscientes.
Estende-se por viés de gênero, racial, idade, orientação sexual, cognitivo, classe social, linguagem, entre outros.
Essas manifestações contribuem para o aumento e perpetuação de desigualdades e injustiças, impondo-nos o dever de combatê-las, assegurando tratamento justo e igualitário a todos.
1 — O que é o Viés na IA Generativa?
Na esfera das aplicações de Inteligência Artificial Generativa, o Viés revela-se como um desvio nas predições do modelo de IA.
Este fenômeno é desencadeado por diversos fatores, incluindo configurações inadequadas, qualidade deficiente dos dados de treinamento, escolha inadequada de algoritmos e implementações incorretas.
Tais desafios introduzem sistemáticamente viés na IA Generativa, resultante da própria natureza tendenciosa dos dados ou algoritmos utilizados.
2 — Ilustrando Viés na Prática: Exemplos Concretos na IA Generativa
Para compreender como o Viés se manifesta na IA Generativa, examinemos casos práticos.
Imagine uma aplicação de IA Generativa alimentada por dados extraídos de artigos escritos exclusivamente por homens brancos bem-sucedidos. Nesse cenário, a IA refletirá predominantemente os pontos de vista dessa comunidade específica, não capturando a riqueza da diversidade em nossa sociedade.
Em um estudo sobre modelos de IA que convertem textos em imagens, constatou-se que tais sistemas podem amplificar estereótipos demográficos em larga escala.
Por exemplo, ao solicitar a geração de uma imagem de alguém realizando tarefas domésticas, todas as imagens geradas retratavam mulheres. Da mesma forma, ao requisitar uma imagem de uma pessoa atraente, os rostos apresentados refletiam padrões de beleza associados a “ideais brancos”.
Modelos de linguagem muitas vezes perpetuam estereótipos ocupacionais e de gênero.
Podem considerar, por exemplo, que profissões como atendente de voo, assistente de médico e secretário são predominantemente femininas, enquanto associam trabalhos como pescador, juiz e advogado a papéis masculinos.
Pesquisas indicam que sistemas de IA na área médica podem codificar vieses contra subgrupos minoritários, incluindo raça e gênero.
Esses preconceitos tornam-se particularmente perigosos quando as decisões médicas são fundamentadas em dados históricos dos pacientes, destacando a importância crítica de mitigar tais viéses para garantir tratamento equitativo.
3. Persistência de Vieses: Do Mundo Real ao Virtual:
Em nossa sociedade é comum preconceitos estarem impregnados nos dados do mundo real.
Se o modelo de linguagem foi treinado por estes dados, eles tendem a se perpetuar e ampliar os vieses em suas previsões.
O resultado é a geração de conteúdos tóxicos como desinformação, discurso de ódio, imagens tendenciosas.
As empresas que comercializam aplicações de IA Generativa tem feito esforços enormes no sentido de tornar estes sistemas mais justo, que devem melhorar ao longo tempo.
Como sociedade não podemos permitir que o uso de dados tendenciosos utilizados no treinamento destes modelos possa manter este legado de opressão em ambientes digitais.
Seção 6 — Conteúdos com Plágio e Implicações com Direitos Autorais.
Um desafio significativo associado à IA Generativa é a produção de conteúdos suscetíveis a plágio e implicações nos direitos autorais.
A comunidade educacional enfrentou um sobressalto com a utilização do ChatGPT por estudantes na redação de ensaios e execução de tarefas escolares. A preocupação central reside na possibilidade de facilitar a trapaça, levantando questões sobre a autoria real dos conteúdos.
A prática do plágio não é nova, mas a IA Generativa amplificou a velocidade e facilidade com que conteúdos são gerados.
Isso não apenas afeta as escolas, mas permeia todo o processo editorial, desde editoras até blogs, revistas, TVs e cinema.
A incerteza sobre a origem do material, seja total ou parcialmente produzido por ChatGPT ou outras ferramentas de IA Generativa, é uma realidade.
A resposta a essa ameaça inclui o desenvolvimento de aplicações, conhecidas como “AI Classifiers” (Classificadores de IA), projetadas para distinguir entre textos humanos e gerados por máquinas. Essas ferramentas buscam validar a autenticidade dos conteúdos, combatendo a desonestidade e o plágio.
Encontrar um equilíbrio ético entre a inovação proporcionada pela IA Generativa e a preservação da integridade autoral torna-se crucial para o futuro da criação e disseminação de conteúdo.
1 — Direitos autorais
Quando um ser humano produz conteúdo, como texto, áudio, vídeo, pintura ou código, é apropriado dizer que ele obtém direitos autorais.
No entanto, quando o ChatGPT produz conteúdo, não se sabe a quem pertencem os direitos.
Pode ser da empresa que desenvolveu o produto, do usuário que formulou a pergunta ou dos proprietários dos dados usados para treinar o algoritmo.
Como não existe regulamentação, começam a surgir os primeiros processos judiciais de direitos autorais contra as empresas que desenvolvem a IA Generativa.
2 — De quem é a responsabilidade da publicação
ChatGPT foi treinado a partir de um enorme banco de dados de textos para gerar conteúdos convincentes por meio de padrões estatísticos entre palavras e frases.
Quando um ser humano publica um conteúdo, assume responsabilidades legais pelo trabalho.
ChatGPT não é uma pessoa; é uma máquina e não pode ser responsabilizado como coautor. Por outro lado, ao não citar o ChatGPT como coautor em uma obra, ela poderia ser considerada plágio, e o autor responsabilizado.
Como não existe regulamentação, alguns aceitam o ChatGPT como coautor e outros não.
Muitas editoras estão estabelecendo critérios e revisando suas políticas editoriais, reconhecendo que os autores devem citar o uso da IA Generativa em seus trabalhos. Outras consideram ilegal e não aceitam autores que se valem de IA Generativa.
3 — Conclusão
ChatGPT pode acelerar o processo de inovação, diminuir drasticamente o tempo de publicação, colaborar para que as pessoas escrevam melhor e aumentar as possibilidades de pesquisa e desenvolvimento em todas as áreas do conhecimento humano.
Ele pode produzir textos bem elaborados, mas há uma margem de erro, considerando que foi treinado em grandes bases de dados que podem ter fornecido informações com viés e distorcer fatos na geração dos conteúdos.
Ao desenvolver trabalhos com o apoio do ChatGPT, é provável que você sinta vontade de citá-lo como coautor, por considerar aceitável a condição de uma máquina ter colaborado, mas deve garantir que a informação gerada seja confiável.
Acreditamos que, com o amadurecimento desta tecnologia, será um processo normal a sua utilização para a produção de conteúdo, e o ChatGPT será o seu coautor.
Mas antes, como sociedade, precisamos encontrar formas de conviver com estes sistemas que farão parte de nossas vidas de agora em diante.
Seção 7 — Outros riscos além dos citados
Além dos riscos citados e descritos anteriormente, relacionamos outros que consideramos importantes:
- IA Generativa pode criar material enganoso, incluindo imagens e vídeos, alimentando desinformação.
- Preocupações com deepfakes destacam o risco de manipulação para difamar e espalhar notícias falsas.
- Geração de rostos e vozes falsos ameaça a privacidade, permitindo a criação de material visual e auditivo enganoso.
- Modelos generativos são vulneráveis a ataques, podendo comprometer a integridade do sistema com a introdução de dados maliciosos.
- Atribuir responsabilidade pela IA Generativa levanta questões éticas, especialmente em conteúdos sensíveis.
- Uso indevido da IA Generativa pode afetar a confiança pública, estabilidade social e disseminação de informações precisas.
- Falta de regulamentações claras permite uso irresponsável, destacando a necessidade de diretrizes éticas e legais robustas.
- Automação criativa pode levar à perda de empregos, aumentando a desigualdade social e concentrando poder em grandes empresas.
- Falta de leis específicas para IA Generativa cria um ambiente jurídico incerto, dificultando a aplicação de regulamentações existentes.
Seção 8 — Uma palavra final sobre os Riscos da IA Generativa
O uso de Sistemas de IA Generativa na produção de conteúdo sintético — texto, áudio, vídeo, imagens e código — implica desafios éticos, questões de direitos autorais e diversos vieses.
Ao automatizar tarefas antes desempenhadas por humanos, a IA Generativa pode aumentar eficiência, produtividade, reduzir custos e criar oportunidades de crescimento.
A necessidade dessa tecnologia para gerenciar grandes volumes de dados na era do Big Data é evidente, mas a cautela é crucial. Os riscos associados à publicação de conteúdos gerados por esses sistemas são significativos.
Problemas fundamentais, como alucinação, superação de viés, plágio e questões de direitos autorais, exigem discernimento humano e bom senso em sua aplicação.
O ser humano assume o papel de árbitro nessa nova era tecnológica, desempenhando um papel valioso no treinamento e aprimoramento dos sistemas de IA Generativa para uma sociedade mais justa.
É imperativo não tolerar o uso de dados tendenciosos no treinamento da IA Generativa, evitando a criação de um legado de opressão para o futuro.
Um olhar crítico e atenção cuidadosa são essenciais ao utilizar essa tecnologia para o bem, promovendo crescimento pessoal e profissional para todos.
Expresso meu desejo sincero de que essas inovações tecnológicas impulsionem o progresso e inspirem novas formas de pensar sobre a sociedade, tornando-a mais justa e garantindo um futuro melhor para as gerações vindouras.
Autor: José Antonio Ribeiro Neto (Zezinho).