INTELIGÊNCIA ARTIFICIAL: GOVERNANÇA E TRANSPARÊNCIA?
Palavras-chave:
Inteligência Artificial, Governança, Transparência, Ética Algorítmica, ExplicabilidadeResumo
Este artigo aborda um tema importante para as empresas na era digital: governança e transparência dos dados utilizados pela Inteligência Artificial para analisar, automatizar e tomar decisões que podem variar de contratações a concessões de crédito. Novos desafios surgem diariamente em relação a quais algoritmos estão sendo usados, quais dados estão alimentando a IA para obter esses resultados e os potenciais vieses gerados. Tais vieses podem levar à discriminação, violações de privacidade e falhas regulatórias devido à falta de auditorias e à ausência de ética algorítmica implementada, impactando a reputação, a cultura organizacional e as operações das empresas, inclusive aquelas com altos padrões de governança e compliance. Amazon, Apple, Clearview AI e Uber enfrentaram esses desafios e servem como estudos de caso neste artigo. Serão apresentadas soluções práticas e recomendações éticas, como o uso de ferramentas de explicabilidade, auditorias internas e relatórios de conformidade para melhorar a transparência e a segurança. O estudo também destacará brevemente algumas iniciativas regulatórias, como o AI Act da União Europeia e os Projetos de Lei n° 210 de 2024 e 2.338 de2024, que visam promover o uso ético da IA no país.
Referências
ÁGUA, P. B., & CORREIA, A. A research agenda on de-biasing the board. In G. M. Mantovani, A. Kostyuk, & D. Govorun (Eds.), Corporate governance: Theory and practice (pp. 16–21). Virtus Interpress. Disponível em: <https://doi.org/10.22495/cgtapp2>. Acesso em: 15 set. 2024.
ALAIN, GUILLAUME, AND YOSHUA BENGIO. Understanding intermediate layers using linear classifier probes. 2016.
BOSTROM, N.; YUDKOWSKY E. A ética da inteligência artificial. Fundamento – Rev. de Pesquisa em Filosofia, v. 1, n. 3 – maio – ago. 2011.
BRASIL. Projeto de Lei n° 210, de 2024.Dispõe sobre os princípios para uso da tecnologia de inteligência artificial no Brasil. Senado Federal.
BRASIL. Projeto de Lei n° 2.338 de 2023.BRASIL. Projeto de Lei n° 210, de 2024.Dispõe sobre os princípios para uso da tecnologia de inteligência artificial no Brasil. Senado Federal.
COLBACK, LUCY. The Impact of AI on Business and Society. FT Future Forum, 16 Oct. 2020. Disponível em:<https://www.ft.com/content/e082b01d-fbd6-4ea5-a0d2-05bc5ad7176c>. Acesso em 20 set.2024.
COLE, S. Amazon Pulled the Plug on an AI Recruitment Tool That Was Biased Against Women. 2018.
COMISSÃO EUROPEIA. Proposta de Regulamento do Parlamento Europeu e do Conselho relativo a regras harmonizadas sobre inteligência artificial (Regulamento EU AI Act). Disponível em: <https://eur-lex.europa.eu/legal-content/PT/TXT/?uri=CELEX%3A52021PC0206>. Acesso em 17 out. 2024.
DUAN, Y., EDWARDS, J. S., & DWIVEDI, Y. K. Governança de IA e mitigação de riscos: Estratégias organizacionais para reduzir vieses algorítmicos. International Journal of Information Management. 2024.
EDELMAN, B. G., & GERADIN, D. Efficiencies and regulatory shortcuts: How should we regulate companies like Airbnb and Uber? Stanford Technology Law Review, 19, 293. 2016.
FIRTH-BUTTERFIELD, KEY. Impact of Artificial Intelligence and Business Concerns. World Economic Forum, 20 Sept. 2021, <https://www.wipo.int/tech_trends/en/artificial_intelligence/ask_the_experts/techtrends_ai_firth.html>. Acesso em: 16 set. 2024.
GALASKI, JASCHA. AI Regulation: Present Situation And Future Possibilities. LIBERTIES, 8 Sept. 2021. Disponível em: <https://www.liberties.eu/en/stories/ai-regulation/43740>. Acesso em: 16 set.2024.
LAKSHMANAN, RAIVE. Clearview AI Faces €30.5M Fine for Building Illegal Facial Recognition Database, 4 set. 2024. Disponível em: <https://thehackernews.com/2024/09/clearview-ai-faces-305m-fine-for.html>. Acesso em: 15 out.2024.
KHMARA, ANNA. The Impact of Artificial Intelligence (AI) on Business. ITChronicles, 15 Mar. 2022. Disponível em: <https://itchronicles.com/artificial-intelligence/the-impact-of-artificial-intelligence-ai-on-business/>. Acesso em 20 set.2024.
McKINSEY & COMPANY. The state of AI in 2021. 2021. Disponível em: <https://www.mckinsey.com/%7E/media/McKinsey/Business%20Functions/McKinsey%20Analytics/Our%20Insights/Global%20survey%20The%20state%20of%20AI%20in%202021/Global-survey-The-state-of-AI-in-2021.pdf>. Acesso em: 26 set. 2024..
PIERRO, B. O mundo mediado por algoritmos. Revista Pesquisa Fapesp, abril de 2018. Disponível em: <https://revistapesquisa.fapesp.br/o-mundo-mediado-por-algoritmos/>. Acesso em 10 out. 2024.
MARR, BERNARD. What Are the Negative Impacts of Artificial Intelligence (AI)? Bernard Marr & Co, 13 July 2021. Disponível em: <https://bernardmarr.com/what-are-the-negative-impacts-of-artificial-intelligence-ai/>. Acesso: 20 set. 2024.
O'SHAUGHNESSY, MATT. One of the Biggest Problems in Regulating AI Is Agreeing on a Definition. Carnegie Endowment for International Peace, 6 Oct. 2022, Disponível em:<https://carnegieendowment.org/2022/10/06/one-of-biggest-problems-in-regulating-ai-is-agreeing-on-definition-pub-88100>. Acesso em 17 set.2024.
UNIÃO EUROPEIA Lei de Inteligência Artificial da. Disponível em: <https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_EN.pdf> Acesso em 12 out. 204.
WACHTER, S., & MITTELSTADT, B. A right to reasonable inferences: Re-thinking data protection law in the age of big data and AI. Columbia Business Law Review, 2019.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2024 Manuela Betiele Aude Lovatto
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
