Análise dos aspectos éticos e teóricos do aprendizado de máquina considerando a segurança e privacidade de dados

Artigo desenvolvido juntamente com Wancley de Assis Ferreira. Curso de Especialização em Controle e Automação — IFSP

RESUMO

Este artigo aborda os aspectos éticos e teóricos do aprendizado de máquina (ML), destacando sua importância e os desafios enfrentados nesta área que está em constante expansão. Inicialmente, são apresentados as noções básicas do ML, um subcampo da inteligência artificial que utiliza algoritmos para analisar dados e tomar decisões autônomas. Em seguida, são discutidas as aplicações e os desafios éticos do ML, que incluem preocupações sobre a parte de algoritmo do ML, privacidade e segurança dos dados. Este artigo também destaca algumas normas brasileiras e estrangeiras relacionadas à segurança e ética em ML. E por fim, são pontuadas conclusões que destacam a importância de um ponto de vista cooperativo e necessário para enfrentar os desafios éticos do ML, visando sua aplicação ética e responsável em benefício da sociedade.

Palavras-chave: Aprendizado de máquina, ética, segurança, regulamentações, normas.

INTRODUÇÃO

O Machine Learning (ML) é uma das áreas inteligência artificial que consiste na análise de dados afim de identificar padrões e tomar decisões com o mínimo de intervenção humana. Surgiu em meados da década de 1940 através de experimentos em máquinas para a realização de tarefas autônomas, e evoluiu a partir do desenvolvimento de um modelo matemático inspirado na estrutura e funcionamento do cérebro humano e da criação de algoritmos de aprendizagem baseada em experiências anteriores (AWARI, 2023).

Conforme a comunidade científica avança nesse ramo tecnológico, o ML tem se tornado uma ferramenta poderosa em diversas áreas. Porém, o uso cada vez mais expandido do ML levanta importantes questões éticas e teóricas sobre como essas tecnologias são desenvolvidas, implementadas e utilizadas. Neste artigo, veremos os aspectos éticos e teóricos do ML, destacando a importância da segurança como um ponto fundamental para garantir sua aplicação eficaz e ética (AWARI, 2023).

FUNDAMENTOS DO APRENDIZADO DE MÁQUINA

O Machine Learning é um processo que envolve a criação de algoritmos e modelos que prepara sistemas computacionais a aprender com dados, formando decisões efetivas sem a necessidade de programação complexas e transparente. Esta capacidade de análise de dados tem gerado novas oportunidades em diversos setores, como saúde, finanças, indústrias, entre outros. A rápido aumento da capacidade de obter e armazenar dados digitais, avanços na capacidade computacional e o próprio acesso a enormes conjuntos de dados, têm impulsionado o crescimento do Aprendizado de Máquina. Suas aplicações têm surpreendido ao efetuar tarefas que antes eram consideradas complexas para abordagens baseadas em regras, encontrando padrões, detectando falhas e fornecendo resultados valiosos para a tomada de decisões. Empresas e indústrias têm se beneficiado ao aumentar a produtividade, agilizar operações, melhorar experiências de clientes e incentivar a inovação (T. Nithya, 2023, p. 354).

APLICAÇÕES E DESAFIOS ÉTICOS

O avanço do Machine Learning trouxe uma série de possibilidades transformadoras, como exemplo o uso para detectar fraude financeira a traves de padrões pré-estabelecidos. Mas também levantou questões éticas complicadas, e essas preocupações têm se tornado cada vez mais relevantes, dada a alta escala de potenciais impactos negativos sobre as pessoas e a sociedade. Desde a década de 1960, tem um debate contínuo sobre as consequências éticas do ML, principalmente à medida que evolui para efetuar tarefas humanas complexas, como monitoramento, validação, previsão e explicação (Z. Ayub, 2023, p. 2).

Um dos principais objetivo do debate ético, envolve os fundamentos para o avanço e a implementação do ML, tendo em vista não apenas o benefício individual, mas o bem-estar de toda a humanidade e o futuro da sociedade. Entre os principais desafios éticos destacados estão “[…] preocupações sobre desemprego, disparidade, mortalidade, tolice artificial, robôs discriminatórios, segurança, gênios maliciosos, singularidade e direitos dos robôs” (Z. Ayub, 2023, p.2). Um exemplo de problema ético de algoritmos de ML que podem produzir preconceitos ou disparidade se forem treinados com dados distorcidos ou não representativos, é na previsão das mudanças climáticas e recomendações políticas que podem ter um efeito negativo devastador.

Dentre os diversos riscos éticos e de segurança, podemos destacar os 10 principais que são rapidamente apresentados e discutidos (G. McGraw, pp. 58–60);

1. Exemplos Adversariais: Ataques contra ML conhecidos como exemplos adversariais visam enganar sistemas de ML fornecendo entradas distorcidas, causando falsas previsões ou falsos resultados;
2. Envenenamento de Dados: A manipulação intencional dos dados usados por um invasor ao sistema de ML pode comprometer todo o sistema;
3. Manipulação de Sistema Online: Ataques podem direcionar sistemas de ML em tempo real na direção errada, influenciando seu aprendizado contínuo;
4. Ataque de Transferência de Aprendizado: Quando o modelo base de um sistema de ML são construídos aproveitando um modelo básico já treinado é então ajustado para realizar uma tarefa mais específica, comportamentos não previstos podem surgir influenciadas ou não por um invasor;
5. Confidencialidade de Dados: Proteger dados confidenciais em sistemas de ML é um trabalho desafiador devido à integração desses dados no próprio modelo;
6. Confiança nos Dados: Considerar a origem e integridade dos dados é crucial para a segurança em ML;
7. Reprodutibilidade: Quando a ciência e a engenharia são desleixadas, os resultados de sistemas de ML frequentemente não são reproduzível, levando a problemas de confiabilidade;
8. Superajuste: Modelos de ML podem memorizar excessivamente os dados de treinamento, prejudicando sua capacidade de generalização;
9. Integridade de Codificação: Problemas na codificação dos dados podem comprometer os modelos de ML de maneiras preocupantes;
10. Integridade de Saída: Ataques diretos à saída de um sistema de ML podem ser facilitados pela inescrutabilidade das operações de ML (ou seja, não compreender realmente como elas fazem o que fazem).

Para promover a segurança, confiança e satisfação, é fundamental seguir regras técnicas e éticas ao criar, usar e implementar sistemas de Machine Learning. Isso ajuda a garantir que o sistema tenham um efeito bom para a sociedade, e isso inclui a atualização de leis e padrões éticos existentes para garantir sua importância nas novas tecnologias de ML. Também é necessário abordar questões específicas relacionadas à segurança, privacidade, transparência e responsabilidade, pois uma abordagem colaborativa e proativa é essencial para enfrentar esses desafios éticos de maneira eficaz, assegurando que a tecnologia sirva eticamente à nossa sociedade (Z. Ayub, 2023, p. 2).

NORMAS BRASILEIRAS E ESTRANGEIRAS

No Brasil, a regulamentação específica sobre segurança e ética em ML ainda não foi abordada, no entanto, normas gerais de segurança cibernética e proteção de dados, como a Lei Geral de Proteção de Dados (LGPD), são utilizadas e fornecem orientações importantes para garantir a segurança e a privacidade dos dados utilizados em sistemas de Machine Learning. Como por exemplo, de acordo com a Lei Geral de Proteção de Dados (Lei nº 13.709/2018), o tratamento de dados pessoais só é permitido mediante o fornecimento de consentimento pelo titular, isso garante a privacidade dos individuas perante a lei (BRASIL. Lei nº 13.709).

Além disso, o Marco Civil da Internet (Lei nº 12.965/2014) estabelece princípios importantes para o uso ético da tecnologia, incluindo transparência, privacidade e responsabilidade. Já no âmbito internacional, várias organizações e países têm adotado normas e regulamentações relacionadas à ética e segurança em Inteligência artificial e ML, como por exemplo, o Regulamento Geral de Proteção de Dados (GDPR) da União Europeia, que estabelece regras rígidas para o uso de dados pessoais e determina penalidades por violações elas (EU 2000/C 364/01).

Também existem as normas ISO/IEC 27001 e ISO/IEC 27002 que são padrões internacionalmente reconhecidos que fornecem diretrizes abrangentes para determinar, implementar, manter e melhorar sistemas de gestão de segurança da informação (SGSI). Embora não sejam especificamente voltadas para sistemas de aprendizado de máquina, muitos dos princípios e controles propostos nessas normas podem ser aplicados de forma relevante para garantir a segurança em sistemas ML. Abaixo, pontuamos alguns exemplos de diretrizes contidas nessas normas que podem ser adaptadas e aplicadas a sistemas ML (Norma ISO/IEC 27001:2013. Norma ISO/IEC 27002:2013):

1. Análise de Riscos (ISO/IEC 27001:2013, Cláusula 6): A norma requer que as organizações identifiquem os riscos de segurança da informação que enfrentam, avaliem sua probabilidade e impacto, e determinem as medidas necessárias para mitigar esses riscos. No contexto de sistemas ML, isso pode envolver a avaliação de ameaças específicas, como ataques de manipulação de entrada ou extração de dados, e o desenvolvimento de estratégias de defesa apropriadas;
2. Controles de Acesso (ISO/IEC 27001:2013, Cláusula 9): As diretrizes relacionadas a controles de acesso visam garantir que apenas usuários autorizados tenham acesso aos recursos de informação necessários para realizar suas funções. Isso pode ser aplicado em sistemas ML para controlar o acesso aos dados de treinamento, modelos e resultados de forma a proteger a integridade e segurança das informações;
3. Monitoramento e Análise de Eventos de Segurança (ISO/IEC 27002:2013, Cláusula 12): A norma recomenda que as organizações instalem mecanismos de monitoramento e análise de eventos de segurança para detectar e responder a incidentes de segurança de forma eficaz. Essa prática é importantes para sistemas ML, permitindo a detecção inicial de atividades suspeitas, como tentativas de manipulação de modelos ou extração de dados;
4. Gestão de Mudanças (ISO/IEC 27002:2013, Cláusula 12): A gestão de mudanças é essencial para garantir a integridade e a segurança dos sistemas de informação. Em sistemas ML, isso pode incluir a implementação de procedimentos rígidos para controlar e editar alterações nos algoritmos, modelos e dados de treinamento, a fim de evitar introduzir vulnerabilidades.

Esses são alguns exemplos de como as diretrizes pontuados nas normas ISO/IEC 27001 e ISO/IEC 27002 podem ser aplicadas a sistemas de aprendizado de máquina para promover a segurança da informação. Adaptar e implementar essas práticas em ambientes de Machine Learning pode ajudar a evitar riscos e proteger a integridade, confidencialidade e disponibilidade dos dados e modelos utilizados nesses sistemas.

CONCLUSÃO

A análise dos aspectos éticos e teóricos do aprendizado de máquina revela uma interseção crucial entre avanços tecnológicos e questões éticas que estão surgindo. A segurança e a privacidade dos dados são pilares fundamentais para garantir que o uso do ML seja ético, responsável e benéfico para a sociedade como um todo. Esta pesquisa destacou a importância de considerar esses aspectos desde a criação até a implementação de um sistema de ML. O aumento das aplicações do Machine Learning em diversos setores da sociedade tem trazido benefícios significativos, mas também desafios éticos complexos. Questões dos pontos de vista de programação, transparência, justiça e responsabilidade ganham destaque à medida que o ML se torna mais integrado em nossas vidas. É obrigatório abordar essas questões de forma positiva, colaborativa e educativa, envolvendo todas as partes interessadas, incluindo cientistas de dados, políticos, éticos e filósofos.

A integridade e responsabilidade no uso do aprendizado de máquina dependem não apenas de regulamentações e normas, mas também de uma cultura organizacional e social que valorize a ética e a segurança dos dados. É essencial que as organizações e os indivíduos envolvidos no desenvolvimento e implementação de sistemas de ML adotem práticas e padrões éticos robustos, garantindo a conformidade com regulamentações existentes e promovendo uma abordagem centrada no ser humano e na humanidade. As normas brasileiras e estrangeiras fornecem diretrizes valiosas para garantir a segurança e a ética no desenvolvimento e uso do Machine Learning, e a conformidade com essas normas é essencial para proteger os direitos e interesses dos usuários, bem como para promover a confiança e a aceitação pública das tecnologias de ML.

Concluindo, o avanço responsável do aprendizado de máquina requer uma abordagem global e colaborativa, que considere não apenas os aspectos técnicos, mas também os impactos sociais,

éticos e legais dessas tecnologias. Somente através de um compromisso conjunto com a segurança, privacidade e ética dos dados podemos garantir que o aprendizado de máquina continue a ser uma força positiva para a inovação e o progresso da sociedade.

REFERÊNCIAS

T. Nithya, V. Nivas Kumar, G. S, S. Deepa, V. C. M and R. Siva Subramanian, “A Comprehensive Survey of Machine Learning: Advancements, Applications, and Challenges,” 2023 Second International Conference on Augmented Intelligence and Sustainable Systems (ICAISS), Trichy, India, 2023, pp. 354–361.

Z. Ayub and M. T. Banday, “Ethics in Artificial Intelligence: An Analysis of Ethical Issues and Possible Solutions,” 2023 Third International Conference on Smart Technologies, Communication and Robotics (STCR), Sathyamangalam, India, 2023, pp. 1–6.

G. McGraw, R. Bonett, V. Shepardson and H. Figueroa, “The Top 10 Risks of Machine Learning Security,” in Computer, vol. 53, no. 6, pp. 57–61, June 2020.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Dispõe sobre a proteção de dados pessoais e altera a Lei nº 12.965/2014 (Lei Geral de Proteção de Dados Pessoais LGPD). Diário Oficial da União, Brasília, DF, 15 ago. 2018.

BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Diário Oficial da União, Brasília, DF, 24 abr. 2014.

EU 2000/C 364/01; Convenção 108 do Conselho da Europa para a Proteção das Pessoas Singulares no que diz respeito ao Tratamento Automatizado de Dados Pessoais, de 28.01.1981 e a Convenção Europeia dos Direitos do Homem (CEDH).

Norma ISO/IEC 27001:2013: ABNT. NBR ISO/IEC 27001:2013. Tecnologia da informação — Técnicas de segurança — Sistema de gestão de segurança da informação. Rio de Janeiro: ABNT, 2013.

Norma ISO/IEC 27002:2013: ABNT. NBR ISO/IEC 27002:2013. Tecnologia da informação — Técnicas de segurança — Código de prática para controles de segurança da informação. Rio de Janeiro: ABNT, 2013.

AWARI. A História do Aprendizado de Máquina: A História do Aprendizado de Máquina: Avanços, Aplicações e o Futuro Saiba como o aprendizado de máquina se tornou um campo importante da ciência da computação. Awari, 8 ago. 2023. Disponível em: https://awari.com.br/a-historia-do-aprendizado-de- maquina/?utm_source=blog&utm_campaign=projeto+blog&utm_medium=A%20Hist%C3% B3ria%20do%20Aprendizado%20de%20M%C3%A1quina. Acesso em: 13 maio 2024.