Ética e dados: desafios atuais na implementação da IA Generativa
A implementação da IA generativa (GenAI) tem mobilizado uma série de questões éticas e de dados, fomentando discussões que estão sendo debatidas nos ambientes empresariais, regulatórios e acadêmicos.
Embora seja promissora, a aplicação desses sistemas deve ser amparada por responsabilidade e implicações éticas, atitudes importantes para que os dados sejam preservados com base na LGPD (Lei Geral de Proteção de Dados Pessoais) e outras regulamentações.
Nesse sentido, apesar dos inúmeros avanços da GenAI - tecnologia que cria conteúdos como textos, imagens, áudios, músicas e vídeos, tal como o ChatGPT - é preciso compreender quais são os desafios éticos e de dados atuais na implementação da IA Generativa. Saiba mais no conteúdo que preparamos.
Você verá neste artigo:
Desafios e oportunidades da GenAI;
Questões éticas e de dados na aplicação da IA generativa;
Como mitigar os desafios e encontrar caminhos para uma IA mais ética e responsável.
Desafios e oportunidades na implementação da GenAI
A popularidade do ChatGPT despertou interesse sobre as potencialidades da IA generativa e suas aplicações. Contudo, somente 10 em cada 100 empresas brasileiras estão preparadas para cumprir com as regulamentações da GenAI. É o que apontou a pesquisa “Desafios e os potenciais da IA generativa no Brasil: como ter vantagem competitiva”, realizada pelo SAS.
E o motivo é, sobretudo, a falta de intimidade dos gestores com temas que envolvem segurança e privacidade de dados, dificultando a implementação da tecnologia.
Outro dado considerável do levantamento constatou que apenas uma em 20 organizações dispõe de um alto nível de treinamento sobre governança e acompanhamento dessas ferramentas, o que as impossibilita de garantir um uso ético e seguro da IA. Abaixo, confira outras informações da pesquisa.
Sobre o uso da IA generativa
Os dados mostram constantemente que a GenAI tem sido adotada de maneira rápida por empresas de todo o país. Quase metade das empresas (46%) já começou a implementar a IA generativa, sendo que 8% já integraram totalmente em escala corporativa. A grande maioria (77%) investiu nesse tipo de sistema inteligente no ano passado e neste ano.
Praticamente uma em cada cinco pretende aplicá-la em nível corporativo, e 69% já estão em processo ou planejam começar projetos para criar seus próprios LLMs internamente (modelos de linguagem em grande escala, um tipo de IA treinado com volumes massivos de texto para compreender e gerar linguagem humana).
Sobre os desafios e as oportunidades
Entre os desafios éticos, estão o viés e a discriminação algorítmica; a responsabilidade e autoria; a falta de transparência; a desinformação e manipulação; e os impactos sociais e trabalhistas.
Sobre os desafios relacionados aos dados, estão a privacidade e proteção de dados; a qualidade e governança de dados; a segurança da informação; e a sustentabilidade e o custo energético.
O levantamento divulgou ainda que 98% das empresas não contam com uma estrutura de governança abrangente para GenAI e menos de uma em 20 têm um sistema confiável para medir viés (4%) e risco de privacidade (4%) em modelos LLMs.
Outro desafio encontrado é o de que mais de oito em cada dez negócios, cerca de 84%, não dão conta de monitorar de forma contínua os sistemas de IA generativa, o que pode gerar implicações negativas na implementação da tecnologia.
Em contrapartida, os negócios brasileiros participantes da pesquisa registraram oportunidades expressivas a partir do uso da IA generativa. A maioria, mais de 90%, relatou que houve uma melhor experiência e satisfação dos colaboradores, enquanto 87% notaram que os custos operacionais diminuíram e 76% afirmaram que a retenção de clientes aumentou.
NeuralMind: IA de ponta para sua empresa com ética e responsabilidade
Questões éticas e de dados na aplicação da IA generativa
À medida que a GenAI passa a integrar a rotina de novas empresas, as questões éticas e de dados devem ser discutidas. Listamos, respectivamente, algumas delas:
Viés e discriminação algorítmica: sistemas de IA podem reproduzir preconceitos e discriminação de gênero, raça e classe existentes nos dados de treinamento, e podem gerar conteúdos tendenciosos.
Responsabilidade e autoria: em caso de conteúdos enganosos, quem será responsabilizado - os usuários, o desenvolvedor ou a IA? As questões sobre direitos autorais, propriedade intelectual e plágio também devem ser consideradas.
Transparência: modelos como GPT ou DALL-E agem como “caixas-pretas”, pois dificultam o entendimento sobre como chegam a certos resultados, afetando a confiança, a transparência e a responsabilização em casos de erros.
Manipulação e desinformação: a IA generativa pode ser usada para criar conteúdos falsos de forma convincente, gerando manipulação e desinformação em massa.
Impactos sociais: sistemas de GenAI podem substituir funções criativas e gerar a precarização do trabalho.
Privacidade e proteção de dados: grandes volumes de dados são usados para treinar as máquinas, gerando preocupações sobre privacidade e proteção de dados, especialmente as informações pessoais sensíveis. Há, ainda, o risco de uso sem consentimento.
Governança de dados: a qualidade e governança de dados deve ser pautada pela ética, segurança e eficiência na gestão dos dados. Informações enviesadas e de baixa qualidade impactam na confiabilidade dos resultados da IA. Além disso, a maturidade na governança no Brasil ainda é baixa, podendo atrapalhar a implementação.
Como mitigar os desafios e encontrar caminhos para uma IA mais ética e responsável
No cenário nacional, até o momento contamos apenas com a LGPD para nortear o uso ético da inteligência artificial - mesmo não sendo uma lei específica sobre IA. Entretanto, é possível aplicar estratégias que ajudam a mitigar os desafios e encontrar maneiras para utilizar a tecnologia com mais segurança.
Investir em treinamento e capacitação das equipes, buscar parcerias e ferramentas que facilitem a integração da GenAI de maneira segura e buscar o apoio de parceiros especializados para favorecer a transição tecnológica podem ser ações estratégicas que minimizam riscos e aumentam os benefícios neste cenário.
Veja alguns exemplos:
Criptografia e segurança: investir em criptografia de ponta a ponta em comunicação e armazenamento, dando mais segurança e proteção às informações sensíveis e privadas;
Auditoria e controle de acesso: permitir acesso somente às pessoas necessárias e realizar processos de autenticação e de rastreamento de usos indevidos, garantindo conformidade regulatória.
Explicabilidade dos modelos: usar técnicas como explainable AI para permitir que os usuários entendam sobre como a IA chegou a determinada resposta, tornando o processo mais transparente. Relatórios de rastreabilidade, com documentação sobre o conjunto de dados usado e os parâmetros de treinamento, também ajudam a gerar confiança e conformidade legal.
Regulação: a legislação vigente não dá conta de acompanhar a evolução da IA, abrindo brechas para crimes e abusos. Ainda não aprovado pela Câmara dos Deputados, o PL 2338/2023 estipula parâmetros para o uso responsável da IA, baseado no modelo europeu (AI Act, União Europeia, 2024). Assim como a autorregulação, que pode ser aplicada pelas empresas com códigos de ética internos e comitês de governança para monitorar a implementação.
Educação: a capacitação sobre ética, proteção de dados, viés, privacidade e conformidade é essencial para que as empresas e o governo possam usar a GenAI de forma adequada, além da disseminação de campanhas para usuários finais.
Parcerias: contar com a expertise de empresas brasileiras especializadas pode tornar o processo de implementar a IA muito mais seguro e alinhado com as regulamentações vigentes.
Conheça a NeuralMind e nossas soluções de IA: fale com o nosso time.
