RISCOS E CONFIABILIDADE NA INTELIGÊNCIA ARTIFICIAL: DESAFIOS E ESTRATÉGIAS PARA A SEGURANÇA DA INFORMAÇÃO
Barra lateral de artigos
Conteúdo do artigo principal
Resumo
As técnicas de Inteligência Artificial (IA) estão sendo exploradas por cibercriminosos para criar ameaças mais sofisticadas e evasivas, capazes de contornar as defesas tradicionais. A IA é utilizada para automatizar ataques cibernéticos personalizados, adaptando-se às condições do ambiente alvo e dificultando a detecção. Além disso, a automação da exploração de vulnerabilidades é outra área em que a IA está sendo empregue por indivíduos maliciosos. Ferramentas de hacking automatizadas empregam algoritmos de aprendizado de máquina para identificar e explorar vulnerabilidades em sistemas e aplicativos, acelerando o processo de comprometimento. O National Institute of Standards and Technology (NIST) é uma agência do Departamento de Comércio dos EUA que também desenvolve guias como Cybersecurity Framework e o AI Risk Management Framework (NIST AI RMF) desenhado para gerenciamento de riscos para sistemas de inteligência artificial.
Detalhes do artigo
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
Referências
Birrer, F.; Just, N. What we know and don’t know about deepfakes: An investigation into the state of the research and regulatory landscape. 2024. Disponível em: https://journals.sagepub.com/doi/f-ull/10.1177/14614448241253138. Acessado em: Out. 2025.
Cinar, B. Deepfakes in Cyber Warfare: Threats, Detection, Techniques and Countermeasures. Asian Journal of Research in Computer Science, v. 15, n. 1, p. 22–37, 2023. Disponível em: https://journalajrcos.com/index.php/AJRCOS/article/view/381. Acessado em: Out. 2025.
Cuenca, F. R. Prompt Injection: uma ameaça silenciosa à segurança em IA. 2025. Disponível em: https://www.welivesecurity.com/pt/ameacas-digitais/prompt-injection-uma-ameaca-silenciosa-a-seguranca-em-ia/. Acessado em: Out. 2025.
Dragoni, N. et al. Deepfake Driven Social Engineering: Threats, Detection Techniques, and Defensive Strategies in Corporate Environments. J. Cybersecur. Priv. v. 5, n. 2, p. 347–364, 2025. Disponível em: https://www.mdpi.com/2624-800X/5/2/18. Acessado em: Out. 2025.
Hassani, H. et al. Generative AI for cyber threat intelligence: applications, challenges, and analysis of real world case studies. 2025. Disponível em: https://link.springer.com/article/10.1007/s10462-025-11338-z. Acessado em: Out. 2025.
Juefei-Xu, F. et al. Countering malicious deepfakes: Survey, battleground, and horizon. 2021. Disponível em: https://arxiv.org/abs/2103.00218. Acessado em: Out. 2025.
Kalasapudi, S. et al. Deepfakes as a threat to speaker and facial recognition: An overview of tools and attack vectors. Heliyon, v. 9, n. 11, p. e19778, 2023. Disponível em: https://www.sciencedire-ct.com/science/article/pii/S2405844023022971. Acessado em: Out. 2025.
Kosinski, M.; Forrest, A. O que é um ataque de injeção de prompt? 2024. Disponível em: https://www.ibm.com/br-pt/think/topics/prompt-injection. Acessado em: Out. 2025.
Lakera AI. Gandalf AI: jogo interativo sobre ataques de Prompt Injection. Disponível em: https://gandalf.lakera.ai. Acessado em: Set. 2025.
Lima, I.; Pinheiro, C. A. M.; Santos, F.A. Oliveira. Inteligência Artificial. 2014. 184 p. ISBN 8535278087.
National Institute of Standards and Technology. Artificial Intelligence Risk Management Framework (AI RMF 1.0). 2023. Disponível em: https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf. Acessado em: Set. 2025.
National Institute of Standards and Technology. Cybersecurity and Privacy. Disponível em: https://www.nist.gov/cybersecurity-and-privacy. Acessado em: Set. 2025.
Oliveira, R. F. de. Inteligencia Artificial. Londrina: Distribuidora Educacional S.A., 224 p. 2018.
Ruck, D.; Sutton, M. Indirect Prompt Injection: Generative AI’s Greatest Security Flaw. 2024. Disponível em: https://cetas.turing.ac.uk/publications/indirect-prompt-injection-generative-ais-grea-test-security-flaw. Acessado em: Out. 2025.
Tsai, C.; Shah, H.; Chen, P.-Y. Adversarial threats to deepfake detection: A practical perspective. 2020. Disponível em: https://arxiv.org/abs/2011.09957. Acessado em: Out. 2025.