Tecnologia da informação e inteligência artificial: desafios éticos e transformações sociais

Keyla Regina da Silva Torres Bosco Matias; Edilson Ferneda; Fabricio Ziviani; João Ricardo de Sousa Mello; Allyson Augusto Nunes Almeida

doi:10.1590/1808-5245.32.148632

Autores

Keyla Regina da Silva Torres Bosco Matias Universidade Católica de Brasília https://orcid.org/0009-0002-5993-7829
Edilson Ferneda Universidade Católica de Brasília https://orcid.org/0000-0003-4164-5828
Fabricio Ziviani Universidade Católica de Brasília https://orcid.org/0000-0002-2705-846X
João Ricardo de Sousa Mello Universidade Católica de Brasília https://orcid.org/0009-0002-5362-6712
Allyson Augusto Nunes Almeida Universidade Católica de Brasília https://orcid.org/0009-0001-5600-564X

DOI:

https://doi.org/10.1590/1808-5245.32.148632

Palavras-chave:

tecnologia da informação, inteligência artificial, ciência da informação, competência em informação, governança de dados, ética informacional

Resumo

A expansão da Tecnologia da Informação e da Inteligência Artificial tem reconfigurado processos de produção, circulação, mediação e uso da informação na sociedade contemporânea, com efeitos relevantes sobre o trabalho, a educação, a cidadania e a governança pública. Este artigo apresenta um ensaio teórico-analítico, apoiado em revisão bibliográfica narrativa e interdisciplinar, com o objetivo de examinar criticamente os impactos, as oportunidades e os riscos associados à disseminação dessas tecnologias. A análise enfatiza, no campo da Ciência da Informação, três dimensões centrais: a competência em informação, a governança de dados e a ética informacional. Discute-se como Tecnologia da Informação e Inteligência Artificial ampliam o acesso a conhecimentos, serviços e formas de participação social, mas também intensificam assimetrias, opacidades decisórias, vieses algorítmicos e novas modalidades de exclusão digital. O estudo sustenta que o enfrentamento desses desafios requer políticas públicas, arranjos regulatórios e práticas formativas orientados por transparência, justiça informacional e uso crítico das tecnologias digitais. Conclui-se que a contribuição da Ciência da Informação para esse debate reside em compreender a Inteligência Artificial não apenas como inovação técnica, mas como fenômeno sociotécnico que reorganiza mediações, competências e regimes de legitimidade da informação.

Downloads

Não há dados estatísticos.

Biografia do Autor

Keyla Regina da Silva Torres Bosco Matias , Universidade Católica de Brasília

Aluna especial do curso de mestrado em Governança, Tecnologia e Inovação pela Universidade Católica de Brasília (UCB). Especialista em Gestão Financeira, Controladoria e Auditoria pela Fundação Getúlio Vargas (FGV.). Bacharel em Ciência Contábeis pelo Universidade Católica Dom Bosco (UCB) e em Administração pela Associação de Ensino Unificado do Distrito Federal (AEUDF) . Possui mais de 25 anos de experiência na área de contabilidade e administração em empresa pública.

Edilson Ferneda, Universidade Católica de Brasília

Graduado em Tecnologia de Computação pelo Instituto Tecnológico de Aeronáutica - ITA (1979), Mestre em Sistemas e Computação pela Universidade Federal da Paraíba - UFPB (1988) e Doutor em Ciência da Computação pelo Laboratoire d'Informatique, Robotique et de Microélectronique de Montpellier - LIRMM, França (1992). Entre 1986 e 2004, foi professor do Departamento de Sistemas e Computação da Universidade Federal de Campina Grande - UFCG (antiga UFPB), tendo atuado nos cursos de Tecnologia em Processamento de Dados, Bacharelado em Ciência da Computação, Mestrado em Informática e Doutorado em Engenharia Elétrica. Desde 2001 é professor titular da Universidade Católica de Brasília, onde atua no Curso de Bacharelado em Ciência da Computação e no Mestrado em Governança, Tecnologia e Inovação (antigo Mestrado em Gestão do Conhecimento e Tecnologia da Informação). Seus interesses incluem Inteligência Artificial e Gestão do Conhecimento.

Fabricio Ziviani, Universidade Católica de Brasília

Doutor em Ciência da Informação pela ECI/UFMG (2012). Possui Mestrado em Administração Pública - Gestão da Informação pela Escola de Governo - Fundação João
Pinheiro (2005), Especialização em Gestão de Tecnologia pela Universidade Estácio de Sá (2001) e Graduação em Administração com Habilitação Análise de Sistemas pelo
Centro Universitário do Espírito Santo (1999). Atualmente é Professor do Programa de Mestrado em Governança, Tecnologia e Inovação da Universidade Católica de Brasília e
Professor na Escola da Ciência da Informação da UFMG (ECI/UFMG) no Programa de Pós-Graduação em Gestão e Organização do Conhecimento. Já ministrou aulas e foi
pesquisador nas seguintes instituições: UEMG, FUMEC, UNI-BH, UNA, FACISA-BH, PUCMINAS e FDC. Possui 23 anos de experiência na formação de profissionais e executivos
nas diferentes áreas de negócios (saúde, transportes, agronegócios, sistema financeiro e grupos educacionais). Associado individual da SBGC, ANPAD e ANCIB. Destaca-se
na sua atuação como pesquisador - Recebeu o Prêmio de Teses UFMG 2013. Recebeu prêmio de melhor artigo em diferentes congressos. Mais de 130 artigos publicados
periódicos de alto impacto nacionais e internacionais. Orientações de 03 teses e 47 dissertações. Coordenou mais de 10 projetos de pesquisa com financiamento de
empresas, agências de fomento e universidades. Participação em diversas bancas de mestrado e doutorado. Palestrante de grandes eventos nacionais e internacionais.
Mentor de Startups. Atua principalmente nas áreas de Inovação; Transformação digital; Inteligência Artificial; Startups; Mindset Digital; Gestão do conhecimento e da
Informação; Ciência da Informação; Redes de Colaboração e Aprendizagem; Liderança e Gestão de Pessoas e Transferência de Tecnologia e Conhecimento.

João Ricardo de Sousa Mello, Universidade Católica de Brasília

Mestrando em Governança, Tecnologia e Inovação pela Universidade Católica de Brasília (UCB). Especialista em Melhoria de Processo de Software pela Universidade Federal de Lavras (UFLA). Bacharel em Ciência da Computação e Tecnólogo em Processamento de Dados pelo Centro Universitário de Brasília (UniCEUB). Possui mais de 25 anos de experiência na área de Tecnologia da Informação, com ênfase em sistemas previdenciários, governança de TI, análise de requisitos, gestão de projetos, migração de sistemas e transformação digital. Atuou como gerente de projetos, analista de sistemas sênior, Scrum Master e Product Owner em iniciativas de grande porte em fundos de previdência complementar. Atualmente, desenvolve pesquisa sobre governança de inteligência artificial em organizações públicas e privadas, com foco em compliance, inovação e ética digital.

Allyson Augusto Nunes Almeida, Universidade Católica de Brasília

Aluno Especial no Mestrado de Gestão Tecnologia e Inovação na Universidade Católica de Brasília, Licenciado em Matemática, ultimo semestre de Engenharia de Software na Uniceplac do gama. Professor de ensino fundamental e médio a mais de 9 anos.

Referências

ACEMOGLU, D.; RESTREPO, P. Artificial intelligence, automation and work. Cambridge: National Bureau of Economic Research, 2018. (Working Paper, n. 24196).

AGUIAR-COSTA, L. M. et al. Customer satisfaction in service delivery with artificial intelligence: A meta-analytic study. RAM: Revista de Administração Mackenzie, São Paulo, v. 23, n. 6, p. 1-29, 2022. Disponível em: https://doi.org/10.1590/1678-6971/eRAMD220003.en. Acesso em: 26 jun. 2025.

ALGORITHM WATCH. How and why algorithms discriminate. Berlin: AlgorithmWatch, 2024.

ALPIZAR-GARRIDO, L. O.; MARTÍNEZ-RUIZ, H. Perspectiva de estudiantes de nivel medio superior respecto al uso de la inteligencia artificial generativa en su aprendizaje. RIDE: Revista Iberoamericana para la Investigación y el Desarrollo Educativo, Guadalajara, v. 14, n. 28, p. 1-29, 2024. Disponível em: https://doi.org/10.23913/ride.v14i28.1830. Acesso em: 26 jun. 2025.

AMNESTY INTERNATIONAL. The state of the world’s human rights: annual report 2024. London: Amnesty International, 2024.

ANGWIN, J. et al. Machine bias: there’s software used across the country to predict future criminals. And it’s biased against blacks. ProPublica, New York, 23 maio 2016.

AVELAR, E. A.; OLIVEIRA, C. Editorial: A era dos algoritmos de inteligência artificial no controle gerencial. Revista Mineira de Contabilidade, Belo Horizonte, v. 24, n. 2, p. 4-6, 2023. Disponível em: https://doi.org/10.51320/rmc.v24i2.1543. Acesso em: 26 jun. 2025.

BAKER, T.; HAWN, O. lgorithmic bias in education. In: TIERNEY, R. J.; RIZVI, F.; ERCİKAN, K. (ed.). International Encyclopedia of Education. 4. ed. Amsterdam: Elsevier, 2022. p. 475-481.

BANKINS, S.; FORMOSA, P. The Ethical Implications of Artificial Intelligence (AI) For Meaningful Work. Journal of Business Ethics, Dordrecht, v. 185, n. 3, p. 725-740, 2023. Disponível em: https://doi.org/10.1007/s10551-023-05339-7. Acesso em: 26 jun. 2025.

BERGUE, S. T. Inteligência artificial e tomada de decisão ética no setor público. Gestão.Org - Revista Eletrônica de Gestão Organizacional, Recife, v. 22, n. 1, p. 1-29, 2024. Disponível em: https://doi.org/10.51359/1679-1827.2024.262501. Acesso em: 26 jun. 2025.

BINNS, R. Fairness in machine learning: lessons from political philosophy. In: CONFERENCE ON FAIRNESS, ACCOUNTABILITY AND TRANSPARENCY, 1., 2018, New York. Proceedings [...]. [S. l.]: PMLR, 2018. p. 149-159.

BIONDI, G. M. C. B.; CERNEV, A. K. Nuveo: ética digital e inteligência artificial para desafios do mundo real. Revista de Administração Contemporânea, Maringá, v. 27, n. 3, p. 1-17, 2023. Disponível em: https://doi.org/10.1590/1982-7849rac2023220063.por. Acesso em 13 maio 2025.

BUCHANAN, B. G. A (Very) brief history of Artificial Intelligence. AI Magazine, Palo Alto, v. 26, n. 4, p. 53-60, 2005. Disponível em: https://doi.org/10.1609/aimag.v26i4.1848. Acesso em: 30 jun. 2026.

BRASIL. Ministério de Ciência Tecnologia e Inovação. IA para o bem de todos: proposta de Plano Brasileiro de Inteligência Artificial 2024-2028. Brasília: MCTI, 2024.

CALVO, P. Etificación, la transformación digital de lo moral. Kriterion: Revista de Filosofia, Belo Horizonte, v. 60, n. 144, p. 671-688, 2019. Disponível em: https://doi.org/10.1590/0100-512X2019n14409pc. Acesso em: 13 maio 2025.

CUNHA, C.; SILVEIRA, H. Inteligência Artificial na formalização de contratos: análise do impacto em uma instituição financeira brasileira de médio porte. Revista Gestão & Tecnologia, Pedro Leopoldo, v. 20, n. 2, p. 231-254, 2020. Disponível em: https://doi.org/10.20397/2177-6652/2020.v20i2.1872. Acesso em: 13 maio 2025.

DIGNUM, V. Responsible Artificial Intelligence: how to develop and use AI in a responsible way. New York: Springer, 2019.

DUARTE, E. S. et al. Aspectos bioéticos da utilização de sistemas de inteligência artificial no campo da saúde: um estudo exploratório. Revista de Bioética y Derecho, Barcelona, n. 57, p. 263-285, 2023. Disponível em: https://doi.org/10.1344/rbd2023.57.35146. Acesso em: 13 maio 2025.

EUBANKS, V. Automating inequality: how high-tech tools profile, police, and punish the poor. New York: Picador: St. Martin’s Press, 2018.

EUROPEAN PARLIAMENT. Council of the european union. Artificial Intelligence Act: Regulation (EU) 2024. Brussels: EU Publications, 2024.

FINOCCHIARO, G.; MONTILLA POLLA, R. Inteligência artificial e proteção de dados pessoais. Revista de Direito Civil Contemporâneo, São Paulo, v. 36, n. 10, p. 211-229, 2023.

FLORIDI, L. The logic of information: a theory of philosophy as conceptual design. Oxford: Oxford University Press, 2019.

FLORIDI, L. AI as Agency without intelligence: on ChatGPT, large language models, and other generative models. Philosophy & Technology, New York, v. 36, n. 1, p. 1-7, 2023. Disponível em: https://doi.org/10.1007/s13347-023-00621-y. Acesso em: 13 maio 2025.

FRANZKE, A. S.; MUIS, I.; SCHÄFER, M. T. Data Ethics Decision Aid (DEDA): a dialogical framework for ethical inquiry of AI and data projects in the Netherlands. Ethics and Information Technology, New York, v. 23, p. 551-567, 2021. Disponível em: https://doi.org/10.1007/s10676-020-09577-5. Acesso em 13 maio 2025.

FUCHS, C. et al. (ed.). Internet and surveillance: the challenges of Web 2.0 and social media. London: Routledge, 2012.

GHARAIBEH, Z. I. Y. et al. Examinando desafios e perspectivas associados à implementação de proteções legais para governanças eletrônicas: uma perspectiva genérica de um país em desenvolvimento. Brazilian Business Review, Vitória, v. 21, n. 5, p. 1-15, 2024. Disponível em: https://doi.org/10.15728/bbr.2023.1773.pt. Acesso em: 13 maio 2025.

GOODFELLOW, I.; BENGIO, Y.; COURVILLE, A. Deep Learning. Cambridge: MIT Press, 2016.

HABERMAS, J. Ein neuer strukturwandel der öffentlichkeit und die deliberative politik. Berlin: Suhrkamp Verlag, 2022.

HEGGLER, J. M.; SZMOSKI, R. M.; MIQUELIN, A. F. As dualidades entre o uso da inteligência artificial na educação e os riscos de vieses algorítmicos. Educação & Sociedade, Campinas, v. 46, p. 1-20, 2025. Disponível em: https://doi.org/10.1590/ES.289323. Acesso em 13 maio 2025.

KAUFMAN, D. Logic and foundations of artificial intelligence and society's reactions to maximize benefits and mitigate harm. Filosofia Unisinos - Unisinos Journal of Philosophy, São Leopoldo, v. 25, n. 1, p. 1-13, 2024. Disponível em: https://doi.org/10.4013/fsu.2024.251.10. Acesso em: 13 maio 2025.

KAUFMAN, G. Inteligência artificial e poder computacional: novas fronteiras e antigas desigualdades. Revista Tecnologia e Sociedade, Curitiba, v. 18, n. 52, p. 33-49, 2022. Disponível em: https://doi.org/10.3895/rts.v18n2.2022.27924. Acesso em: 13 maio 2025.

KOPPER, A. et al. Shadow IT and business-managed IT: a conceptual framework and empirical illustration. International Journal of IT/Business Alignment and Governance, Hershey, v. 9, n. 2, p. 53-71, 2018. Disponível em: https://doi.org/10.4018/IJITBAG.2018070104. Acesso em: 13 maio 2025.

LEAL, J. S. et al. “Olá, posso te ajudar?”: inteligência artificial e a vulnerabilidade do consumidor. Revista de Administração FACES Journal, Belo Horizonte, v. 20, n. 4, p. 28-40, 2021.

LIMONGI, R. The use of artificial intelligence in scientific research with integrity and ethics. Future Studies Research Journal: Trends and Strategies, São Paulo, v. 16, n. 1, p. 1-10, 2024. Disponível em: https://doi.org/10.24023/FutureJournal/2175-5825/2024.v16i1.845. Acesso em: 13 maio 2025.

MATHENY, M. et al. (ed.). Artificial Intelligence in health care: the hope, the hype, the promise, the peril. Washington: National Academy of Medicine, 2022.

MAZZUCATO, M. The value of everything: making and taking in the global economy. London: Penguin Books, 2018.

McCARTHY, J. et al. A proposal for the Dartmouth summer research project on Artificial Intelligence. Hanover: Dartmouth College, 1955.

MENDONÇA, F. M.; DANTAS, M. A. R. Covid-19: where is the digital transformation, big data, artificial intelligence and data analytics? Revista do Serviço Público, Brasília, v. 71, n. esp., p. 212-234, 2020. Disponível em: https://doi.org/10.21874/rsp.v71i0.4770. Acesso em: 13 maio 2025.

MITCHELL, M. Artificial Intelligence: a guide for thinking humans. New York: Farrar, Straus and Giroux, 2019.

MITTELSTADT, B. D. et al. The ethics of algorithms: mapping the debate. Big Data & Society, London, v. 3, n. 2, p. 1-21, 2016. Disponível em: https://doi.org/10.1177/2053951716679679. Acesso em: 13 maio 2025.

NATIONAL ACADEMY OF MEDICINE. Guidance on ethical AI in healthcare decision-making. Washington: NAM Reports, 2024.

NOHARA, I. P.; GABARDO, E. Superinteligência e os desafios reais e fictícios de regulação em tempos de Inteligência Artificial. Sequência: Estudos Jurídicos e Políticos, Florianópolis, v. 45, n. 97, p. 1-22, 2024. Disponível em: https://doi.org/10.5007/2177-7055.2024.e99699. Acesso em: 13 maio 2025.

OLIVEIRA, J. S.; NEVES, I. B. S. Inteligência Artificial, ChatGPT e estudos organizacionais. Organizações & Sociedade, Salvador, v. 30, n. 106, p. 397-409, 2023. Disponível em: https://doi.org/10.1590/1984-92302023v30n0013PT. Acesso em: 13 maio 2025.

OLIVEIRA, N. H. A decolonial critical theory of artificial intelligence: intersectional egalitarianism, moral alignment, and AI governance. Filosofia Unisinos - Unisinos Journal of Philosophy, São Leopoldo, v. 25, n. 1, p. 1-18, 2024. Disponível em: https://doi.org/10.4013/fsu.2024.251.14. Acesso em: 13 maio 2025.

PEARL, J.; MACKENZIE, D. The book of why: the new science of cause and effect. New York: Basic Books, 2018.

PIEDRA-ALEGRÍA, J. Anotaciones iniciales para una reflexión ética sobre la regulación de la inteligencia artificial en la Unión Europea. Revista de Derecho, Montevideo, n. 28, p. 1-34, 2023. Disponível em: https://doi.org/10.22235/rd28.3264. Acesso em: 13 maio 2025.

PIGOLA, A. et al. Artificial Intelligence in academic research [Editorial comment]. International Journal of Innovation - IJI, São Paulo, v. 11, n. 3, p. 1-9, 2023. Disponível em: https://doi.org/10.5585/2023.24508. Acesso em: 13 maio 2025.

ROSSETTI, R.; ANGELUCI, A. Ética Algorítmica: questões e desafios éticos do avanço tecnológico da sociedade da informação. Galáxia, São Paulo, n. 46, p. 1-21, 2021. Disponível em: https://doi.org/10.1590/1982-2553202150841. Acesso em: 13 maio 2025.

ROSSONI, L. A inteligência artificial e eu: escrevendo o editorial juntamente com o ChatGPT [Editorial]. Revista Eletrônica de Ciência Administrativa, Campo Largo, v. 21, n. 3, p. 339-346, 2022. Disponível em: https://doi.org/10.21529/RECADM.2022018. Acesso em: 13 maio 2025.

RUSSELL, S. J.; NORVIG, P. Artificial Intelligence: a modern approach. 4. ed. London: Pearson, 2021.

SICHMAN, J. S. Inteligência Artificial e sociedade: avanços e riscos. Estudos Avançados, São Paulo, v. 35, n. 101, p. 59-72, 2021. Disponível em: https://doi.org/10.1590/s0103-4014.2021.35101.004. Acesso em: 13 maio 2025.

TRINDADE, A. S. C. E.; OLIVEIRA, H. P. C. Inteligência Artificial (IA) generativa e Competência em Informação: habilidades informacionais necessárias ao uso de ferramentas de IA generativa em demandas informacionais de natureza acadêmica-científica. Perspectivas em Ciência da Informação, Belo Horizonte, v. 29, p. 1-27, 2024. Disponível em: https://doi.org/10.1590/1981-5344/47485. Acesso em: 13 maio 2025.

VAN DIJK, J. A. G. M.; HACKER, K. The Digital divide as a complex and dynamic phenomenon. The Information Society, London, v. 19, n. 4, p. 315-326, 2003. Disponível em: https://doi.org/10.1080/01972240309487. Acesso em: 13 maio 2025.

VILAÇA, M. M.; PEDERNEIRA, I. L.; FERRO, M. AI beyond a new academic hype: an interdisciplinary theoretical analytical experiment (computational, linguistic and ethical) of an AI tool. Filosofia Unisinos - Unisinos Journal of Philosophy, São Leopoldo, v. 25, n. 1, p. 1-14, 2024. Disponível em: https://doi.org/10.4013/fsu.2024.251.12. Acesso em: 13 maio 2025.

WACHTER, S.; MITTELSTADT, B.; FLORIDI, L. Why a right to explanation of automated decision-making does not exist in the General Data Protection Regulation. International Data Privacy Law, Oxford, v. 7, n. 2, p. 76-99, 2017. Disponível em: https://doi.org/10.1093/idpl/ipx005. Acesso em: 13 maio 2025.

WOOD, A. J. et al. Good gig, bad gig: Autonomy and algorithmic control in the global gig economy. Work, Employment and Society, London, v. 33, n. 1, p. 56-75, 2019. Disponível em: https://doi.org/10.1177/0950017018785616. Acesso em: 13 maio 2025.

WOOLDRIDGE, M.; JENNINGS, N. R. Intelligent agents: theory and practice. The Knowledge Engineering Review, Cambridge, v. 10, n. 2, p. 115-152, 1995. Disponível em: https://doi.org/10.1017/S0269888900008122. Acesso em: 13 maio 2025.

XU, Z.; CHENG, S. Transformation of educational philosophy: an evaluation of higher education management innovation against the background of Big Data. Trans/Form/Ação: Unesp Journal of Philosophy, Marília, v. 47, n. 2, p. 1-15, 2024. Disponível em: https://doi.org/10.1590/0101-3173.2024.v47.n2.e02400162. Acesso em: 13 maio 2025.

YARA, K.; RADYUSHIN, K.; DZHUS, A. Algorithmic risk assessment in Ukraine: the Cassandra system and the need for accountability. In: WORKSHOP ON INFORMATION TECHNOLOGY AND INTERACTION, 3., 2021, Kyiv. Proceedings [...]. Aachen: CEUR-WS.org, 2021. p. 18-26.