Grupo de Estudos em Direito e Tecnologia da Universidade Federal de Minas Gerais- DTEC-UFMG
Data da Reunião: 22/09/2020
Relatores: : Elder Muniz, Fernando Ameno e Marcela Carvalho Andrade
Máquinas incorporadas com inteligência artificial, ou simplesmente I.A, estão cada vez mais presentes em nossa sociedade, mediando nossas interações sociais, econômicas, culturais e políticas. Entender o comportamento da I.A. é essencial para controlar suas ações, aproveitando de seus benefícios e minimizando os impactos negativos. Nesse sentido, na visão de Nobel Laureate Hebert Simon está emergindo um campo interdisciplinar de estudo científico, ligado à robótica e à ciência da computação, mas distinto, que pretende estudar o comportamento da máquina empiricamente.
Para Iyad Rahwan, são três as principais motivações para o estudo do comportamento de máquina: i) Ubiquity of algorithms: vários tipos de algoritmos permeiam a nossa sociedade, sendo que o uso de muitos deles se torna cada vez mais importante na nossa vida cotidiana; ii) Complexity and opacity of algorithms: tendo em vista as complexas propriedades desses algoritmos, alguns de seus atributos e comportamentos são extremamente difíceis de se entender, e iii) Algorithms’ beneficial and detrimental effect on humanity: assim que vai aumentando a quantidade e complexidade de algoritmos em nosso cotidiano, dificulta também o estudo dos impactos positivos e negativos deles sobre a sociedade.
Da mesma forma como procedemos ao estudo do comportamento de animais e humanos (etologia), é possível entender melhor o comportamento da máquina com uma abordagem similar. Ao analisar as funções, os mecanismos, o desenvolvimento e a evolução histórica de determinado comportamento de agentes de IA, é possível extrair importantes informações para sistematizar o estudo de comportamento de máquina, ressalvadas as diferenças fundamentais entre seres vivos e máquinas.
Indo além, Ryan Calo nos faz intrigante questionamento: se a I.A não é nova - assim como o medo e a euforia que a circunda - o que justifica as crescentes preocupações quanto à temática? Para ele, ao menos duas respostas: o aumento da capacidade computacional e o acesso aos dados, permitindo avanços práticos no campo da I.A e o fato de que os formuladores de política estão finalmente prestando atenção à temática.
Desta forma, em seu artigo, ele traz importantes problemáticas e questionamentos em torno da inteligência artificial em áreas diversas, tais como i) justiça e equidade, ii) uso da força, iii) segurança e certificação, iv) privacidade e poder e v) tributação e deslocamento de mão de obra. Como o autor aduz, ele não pretende trazer respostas aos questionamentos, mas contribuir para que legisladores, investidores, acadêmicos e alunos possam compreender os principais desafios atinentes à temática.
Karen Yeung, a sua vez, faz crítica contundente à capacidade que os algoritmos – e a I.A – têm de regular a vida humana, principalmente, mas não apenas, em razão de sua capacidade sancionatória e preditiva, de modo que Martin Lodge e Andrea Mennicken defendem a importância da regulação levada à cabo pelos algoritmos e, por isso, a necessidade de que a tecnologia também seja regulada – regulation of and by algorithm.
As mesmas reflexões não passam despercebidas no artigo “Regulating by Robot: Administrative Decision Making in the Machine-Learning Era”, de Cary Clogianese e David Lehr, com especial foco na aplicabilidade do aprendizado de máquinas na administração pública. Em profunda imersão no tema, destacam os autores que a concretização deste experimento requer compatibilidade da implementação do aprendizado de máquina em sintonia aos princípios administrativos de i) não delegação, ii) devido processo, iii) não discriminação e iv) transparência.
Isso porque, sendo a atividade administrativa delegada, o uso de inteligência artificial mostrar-se-á válido sempre que a estratégia representar proximidade ao interesse público. De igual modo, o poder decisório dos algoritmos só será razoável com um protocolo básico de participação dos interessados, de modo que a tecnologia possa auxiliar o ato decisório, mas sem olvidar a oitiva das pessoas e a viabilidade de insurgências. Ademais, a perfeita adequação do uso de aprendizado de máquinas na administração demandaria forte atenção com os dados usados, de modo a não haver discriminação em face de minorias. Por fim, respeitado sempre o segredo industrial, notadamente em produtos criados por particulares, não se deve identificar os algoritmos como caixas-pretas. Ao contrário disso, o foco deve ser voltado à fundamentação de atos produzidos em seara virtual, com articulação clara, citação de precedentes e de evidências fáticas.
REFERÊNCIAS BIBLIOGRÁFICAS
Bibliografia obrigatória
RAHWAN, Iyad et al. Machine behavior.
CALO, Ryan. Artificial Intelligence Policy: a primer and roadmap.
COGLIANESE, Cary and LEHR, David. Regulation by robot. Administrative Decision Making in the Machine Learning Era.
Bibliografia complementar
LODGE, Martin and MENNICKEN, Andrea. The importance of regulation of and by algorithm in ANDREWS, Leighton et al. Algorothmic Regulation. The London School of Economics and Political Sciente, discussion paper n° 85, september 2017.
YEUNG, Karen. Algorithmic regulation: a critical interrogation. Regulation & Governance, 2018, n° 12.