3 Cuidados Fundamentais para Garantir Privacidade e Confiabilidade ao Usar IA em Análises de Dados

Por
Mariana Brandão
Melissa Dantas
7/3/2024

Introdução

Com o lançamento do ChatGPT em novembro de 2022, o mundo viu a ascensão rápida no interesse em entender os ganhos ao usar inteligência artificial generativa nas empresas de todos os setores. No Marketing Digital não foi diferente, IA está em alta e deve ganhar cada vez mais adeptos, e é inclusive uma das tendências de Marketing para 2024 indicadas pela DP6 neste post. Dentre as áreas sendo transformadas pela inteligência artificial está a análise de dados. Por meio da introdução de novas ferramentas e técnicas, diversos processos relacionados à análise de dados estão sendo otimizados ou automatizados.

Muito se fala no potencial de ganho de produtividade e lucro que o uso de inteligência artificial pode trazer para o dia a dia do trabalho, e os grandes players do mercado estão inserindo IA em seus produtos, como é o caso do GA4, que usa machine learning para ajudar os usuários na compreensão dos dados coletados pela ferramenta e elaboração de planos de ação. O GA4 oferece insights automatizados, que detectam alterações incomuns nos dados, e insights personalizados, nos quais os usuários configuram condições a serem analisadas pela IA.

Além disso, ferramentas de visualização de dados como o Microsoft Power BI e o Tableau GPT também estão avançando nesse sentido. No Power BI, a IA simplifica o uso da linguagem natural pelo usuário para a criação das visualizações por meio de funcionalidades nativas, enquanto no Tableau GPT, a tecnologia é empregada com foco na preparação e governança dos dados, oferecendo ainda insights personalizados com base nos dados disponíveis, seguindo a mesma linha do GA4.

É importante ressaltar que o objetivo dessas tecnologias não é substituir o analista de dados, mas sim permitir que eles foquem seus esforços em aspectos mais estratégicos do trabalho, enquanto as ferramentas assumem tarefas mecânicas e que consomem tempo. Por exemplo, a Pencil — principal plataforma de IA generativa para marcas — é usada por mais de cinco mil marcas e agências no mundo todo em várias etapas de desenvolvimento de campanhas, dos criativos do anúncio à estratégia de performance. Já o Grupo SOMA está utilizando a tecnologia para sugerir adaptações e melhorias em suas peças de acordo com tendências e histórico de desempenho dos seus produtos, o que tem tornado o processo produtivo mais eficiente, conforme explica o CTO do grupo em entrevista à Forbes Brasil.

Apesar dos benefícios significativos das aplicações da inteligência artificial no campo da análise de dados, como o processamento de volume massivo de dados e a análise em tempo real para bases de larga escala, é importante ressaltar que o uso da inteligência artificial na análise de dados também apresenta desafios. Questões éticas, como o viés do algoritmo, a privacidade e segurança dos dados se tornam uma preocupação crescente à medida que dados sensíveis são processados por sistemas automatizados.

A inteligência artificial tem o potencial de ajudar nos processos de tomada de decisão baseados em dados, no entanto, para não cair nas armadilhas das questões éticas, é preciso utilizá-la cuidadosamente e seguir as boas práticas recomendadas. Listamos abaixo os principais cuidados necessários.

Privacidade

É preciso entender os termos de uso e privacidade da ferramenta escolhida. O ChatGPT, por exemplo, apresenta a possibilidade de desativar o histórico do chat e, segundo a Open AI, sua criadora, quando isso é feito os dados não são usados para treinar a ferramenta. As conversas são salvas por 30 dias e revistas apenas quando necessário com o objetivo de detecção de abusos no uso.

O universo da IA generativa está evoluindo rapidamente, e ainda peca na transparência sobre questões relacionadas ao consentimento e ao processamento de dados. Uma medida adicional crucial para garantir a privacidade na manipulação de dados é limitar a quantidade de informações compartilhadas com a IA, juntamente com a aplicação de técnicas de anonimização quando apropriado.

Segurança

Além da inserção de dados sensíveis, é preciso ter atenção aos dados resultados e fornecidos pela ferramenta de inteligência artificial escolhida no processo de análises. Definir um processo de extração destes dados para ambientes seguros é uma etapa tão importante quanto a anterior. É muito importante capacitar o time para estar ciente dos riscos de vazamento de dados, como o caso recente da Samsung, que proibiu o uso de ferramentas de IA generativa devido a preocupações com a segurança das informações após funcionários colocarem um código confidencial no ChatGPT.

Assegurar um controle de acesso robusto com mecanismos de autenticação para restringir o acesso aos dados e modelos, é essencial para garantir que somente pessoas autorizadas possam acessá-los. Além dessas práticas, é recomendado realizar auditorias em intervalos regulares de tempo para fortalecer a segurança do processo como um todo.

Vieses

Outro fator de risco a ser considerado ao utilizar ferramentas de inteligência artificial na análise de dados é o viés algorítmico, como ilustrado recentemente no caso da deputada Renata Souza, que foi retratada de forma inadequada com uma arma de fogo por uma plataforma de IA. Apesar de uma das prerrogativas do uso de algoritmos ser a eliminação dos vieses humanos, caso um modelo seja treinado com bases de dados enviesadas, então suas análises serão influenciadas por tais vieses.

Para mitigar o viés algorítmico, é crucial garantir a coleta e utilização de bases de dados abrangentes e de qualidade, além de empregar métodos e técnicas adequadas para pré-processamento, análise e interpretação dos dados. Além disso, é fundamental adotar medidas proativas para monitorar a imparcialidade do algoritmo, incluindo auditorias dos resultados para diferentes grupos de dados e o desenvolvimento de indicadores para identificar instâncias de viés de IA. A resposta a essas identificações deve ser rápida e orientada por protocolos previamente estipulados.

Conclusão

O uso de inteligência artificial nas análises de dados tem evoluído rapidamente, mas é essencial que os profissionais que fazem uso dessas ferramentas estejam atentos às armadilhas éticas e de segurança para que não coloquem em risco dados valiosos ou/e prejudiquem o resultado de suas análises. Com sua vasta experiência e expertise em inteligência analítica, a DP6 está pronta para auxiliar na implementação de práticas de privacidade e segurança eficazes voltadas para ferramentas de marketing digital, impulsionando assim o sucesso e a confiança em suas iniciativas de análise de dados.

Compartilhe