Desafios do Machine Learning
Com o avanço da tecnologia de machine learning, nossas vidas certamente ficaram mais fáceis.
No entanto, a implementação do machine learning nas empresas também levantou uma série de preocupações éticas em torno das tecnologias de IA. Alguns destes incluem:
Singularidade tecnológica
Embora este tópico atraia muita atenção do público, muitos pesquisadores não estão preocupados com a ideia de a IA ultrapassar a inteligência humana em um futuro próximo ou imediato. A singularidade tecnológica também é chamada de IA forte ou superinteligência. O filósofo Nick Bostrum define a superinteligência como "qualquer intelecto que supera amplamente os melhores cérebros humanos em praticamente todas as áreas, incluindo criatividade científica, sabedoria geral e habilidades sociais". Apesar do fato de que a superinteligência não é iminente na sociedade, a ideia de sua existência levanta algumas questões interessantes quando consideramos o uso de sistemas autônomos, como carros autônomos. Não é realista pensar que um carro sem motorista nunca sofreria um acidente de carro, mas quem seria o responsável legal nessas circunstâncias? Ainda devemos desenvolver veículos autônomos ou limitar essa tecnologia a veículos semiautônomos que ajudam as pessoas a dirigir com segurança? Ainda não há uma legislação para isso, mas esses são os tipos de debates éticos que estão ocorrendo à medida que novas e inovadoras tecnologias de IA são desenvolvidas.
O impacto da IA no mercado de trabalho
Embora grande parte da percepção pública em torno da inteligência artificial esteja relacionada à redução de empregos, essa preocupação provavelmente deverá assumir novos formatos. A cada nova tecnologia disruptiva, vemos que a demanda do mercado por funções de tarefa específicas também muda. Por exemplo, quando olhamos para o mercado automotivo, muitos fabricantes, como a GM, estão mudando para se concentrar na produção de veículos elétricos para se alinhar às iniciativas verdes. O mercado de energia não acabará, mas a fonte de energia está mudando de uma economia de combustíveis fósseis para energia elétrica.
Da mesma forma, a inteligência artificial mudará a demanda por empregos para outras áreas. Deverá haver indivíduos para ajudar a gerenciar sistemas de IA. Ainda haverá necessidade de contratar pessoas para resolver problemas mais complexos dentro dos setores que são mais prováveis de serem afetados por mudanças na demanda de tarefas, como atendimento ao cliente. O maior desafio da inteligência artificial e seu efeito no mercado de trabalho será ajudar as pessoas na transição para novas funções que estão em demanda.
Privacidade
A privacidade tende a ser discutida no contexto de privacidade, proteção e segurança de dados. Essas preocupações permitiram que a legislação avançasse mais nos últimos anos. Por exemplo, em 2016, a legislação GDPR foi criada para proteger os dados pessoais de pessoas na European Union and European Economic Area, dando aos indivíduos mais controle sobre seus dados. Nos Estados Unidos, alguns estados estão criando políticas, como o California Consumer Privacy Act (CCPA), que surgiu em 2018 e exige que as empresas informem os consumidores sobre a coleta de seus dados. Legislações como essa obrigaram as empresas a repensar a forma como armazenar e usar informações pessoalmente identificáveis (PII). Como resultado, os investimentos em segurança se tornaram uma prioridade cada vez maior para as empresas, à medida que buscam eliminar quaisquer vulnerabilidades e oportunidades de inspeção, invasão de hackers e ataques cibernéticos.
Preconceito e discriminação
Casos de preconceito e discriminação em vários sistemas inteligentes levantaram muitas questões éticas relacionadas ao uso da inteligência artificial. Como podemos nos proteger contra o preconceito e a discriminação quando os próprios dados de treinamento podem ser gerados por processos humanos com desvios? Embora as empresas normalmente sejam bem-intencionadas em relação aos seus esforços de automação, por isso existem algumas consequências inesperadas da incorporação de IA nas práticas de contratação. Em seu esforço para automatizar e simplificar um processo, a Amazon, involuntariamente discriminou candidatos a vagas por gênero para funções técnicas e, no final das contas, tiveram que descartar o projeto. À medida que as empresas se tornam mais conscientes dos riscos da IA, elas também se tornam mais ativas nessa discussão em torno da ética e dos valores da IA.
Prestação de Contas
Uma vez que não há legislação significativa para regular as práticas de IA, não existe um mecanismo real de aplicação para garantir que a IA ética seja praticada. Os incentivos atuais para que as empresas sigam essas diretrizes são as repercussões negativas de um sistema de IA antiético nos resultados financeiros. Para preencher a lacuna, estruturas éticas surgiram como parte de uma colaboração entre especialistas em ética e pesquisadores para governar o desenvolvimento e distribuição de modelos de IA na sociedade. Porém, no momento, estes são usados apenas com o propósito de orientação.
Fontes:
Harvd Business Review: https://hbr.org/2019/04/the-legal-and-ethical-implications-of-using-ai-in-hiring
Artigo The Ethics of AI Ethics: https://arxiv.org/ftp/arxiv/papers/1903/1903.03425.pdf
