Um Desafio de Ética e de Segurança para a Oncologia: Comunicar a Implementação da IA Generativa
DOI:
https://doi.org/10.32635/2176-9745.RBC.2025v71n2.5184Palavras-chave:
Comunicação, Inteligência Artificial Generativa, Sistemas de Saúde/legislação & jurisprudênciaResumo
O artigo trata dos riscos à segurança dos dados de pacientes e de outras informações dos sistemas de saúde público e privado que avançaram com a inteligência artificial, principalmente a generativa. O objetivo é alertar para a ausência de comunicação ativa e para o vazio regulatório no mundo envolvendo a aplicação da IA na saúde, notadamente na oncologia. Metodologicamente, optou-se por uma revisão bibliográfica nacional e internacional envolvendo pesquisas em IA voltadas para a saúde com ou sem sugestões regulatórias. Conclui-se com o alerta para a necessidade de intervenção social e governamental nas aplicações de IA em oncologia em função da ausência de transparência em sua implementação.
Downloads
Referências
Check Point [Internet]. [Redwood]: Check Point Software Technologies; ©1994-2024. The state of cyber security 2024, 2024 [Acesso 2025 fev 21]. Disponível em: https://engage.checkpoint.com/security-report-2025/items/report--cyber-security-report-2024?utm_campaign=dg-cm_ps_25q1_ww_all_mix-gen-inf-cyber-security-report-2025-or_en-gsem&utm_source=google-dg&utm_medium=cpc&utm_term=cybersecurity+reports+2024&utm_content=cs_report&gad_source=1&gclid=CjwKCAiAn9a9BhBtEiwAbKg6fu7YOa0qbO5PzhR8i6r3cXKwm0GrawIbMpWCsABaO3betuc0h3RLFRoCqWUQAvD_BwE
Check Point [Internet]. [Redwood]: Check Point Software Technologies; 2025. The state of cyber security 2025, 2025 [Acesso 2025 fev 19]. Disponível em: https://engage.checkpoint.com/security-report-2025?utm_campaign=dg-cm_ps_25q1_ww_all_mix-gen-inf-cyber-security-report-2025-or_en-gsem&utm_source=google-dg&utm_medium=cpc&utm_term=state%20of%20cybersecurity%202025&utm_content=state_cybersec&gad_source=1&gclid=CjwKCAiAn9a9BhBtEiwAbKg6frHixQ--XsFgDubZop5p7WRiNiIP99dPO_Kcjd4FlQUaK5ZoqeLzlRoCGMgQAvD_BwE
Reuters [Internet]. Londres: Reuters; [sem data]. Google desenvolve co-cientista de IA para auxiliar pesquisadores, 2025 fev 19. [Acesso 2025 fev 21, Atualizado em 2025 abr 19]. Disponível em: https://www.reuters.com/technology/artificial-intelligence/google-develops-ai-co-scientist-aid-researchers-2025-02-19/
Conselho Federal de Biomedicina [Internet]. Brasília, DF: CFBM; [sem data]. O que faz o Biomédico, 2024. [Acesso 2025 fev 21]. Disponível em: https://cfbm.gov.br/profissionais/o-que-faz-o-biomedico/#:~:text=O%20Biom%C3%A9dico%20%C3%A9%20respons%C3%A1vel%20pela,produz%20vacinas%20para%20combat%C3%AA%2Dlas
Angwin J, Larson J, Mattu S. Machine Bias: there’s software used across the country to predict future criminals and it’s biased against blacks. Pro Publica [Internet]. 2016 maio 23. [Acesso 2025 fev 9]. Disponível em: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
Gerken T. AI cracks superbug problem in two days that took scientists Years. BBC [Internet]. 2025 fev 20. [Acesso 2025 fev. 24]. Disponível em: https://www.bbc.com/news/articles/clyz6e9edy3o
Amaral Filho N. Jornalismo e IA generativa: ensino, interdisciplinaridade, mercado e ética. Rio de Janeiro: Mauad X; 2024. 180p.
Lee KF. Inteligência artificial: como os robôs estão mudando o mundo, a forma como amamos, nos relacionamos, trabalhamos e vivemos. Rio de Janeiro: Globo Livros; 2019.
Google Cloud [Internet]. [local desconhecido]: Google Cloud; [sem data]. Tendências de IA para negócios em 2025. [Acesso 2025 fev 28]. Disponível em: https://cloud.google.com/resources/ai-trends-report?hl=pt-BR
Liu X, Faes L, Kale AU, et al. A comparison of deep learning performance against health-care professionals in detecting diseases from medical imaging: a systematic review and meta-analysis. Lancet Digit Health. 2019;1(6):271-97. doi: https://doi.org/10.1016/s2589-7500(19)30123-2 DOI: https://doi.org/10.1016/S2589-7500(19)30123-2
Ayers JW, Poliak A, Dredze M. Comparing physician and artificial intelligence chatbot responses to patient questions posted to a public social media forum. JAMA Intern Med. 2023;183(6):589-96. doi: https://doi.org/10.1001/jamainternmed.2023.1838 DOI: https://doi.org/10.1001/jamainternmed.2023.1838
Instituto Nacional de Câncer. Rede Câncer [Internet]. 2024 [Acesso 2025 fev 28];56:1-44. Disponível em: https://ninho.inca.gov.br/jspui/handle/123456789/17180
Garg RK, Urs VL, Agarwal AA, et al. Exploring the role of ChatGPT in patient care (diagnosis and treatment) and medical research: a systematic review. Health Promot Perspect. 2023;13(3):183-91. doi: https://doi.org/10.34172/hpp.2023.22 DOI: https://doi.org/10.34172/hpp.2023.22
Gormley B. This startup wants to use AI to uncover dangerous drugs. The Wall Street Journal [Internet]. 2025 fev 12. [Acesso 2025 mar 7]. Disponível em: https://www.wsj.com/articles/this-startup-wants-to-use-ai-to-uncover-dangerous-drugs-40297123
Australian Medical Association [Internet]. [local desconhecido]: AMA; 2023. Position Statement. Artificial Intelligence in Healthcare, 2023. [Acesso 2025 fev 25]. Disponível em: https://www.ama.com.au/sites/default/files/2023-08/Artificial%20Intelligence%20in%20Healthcare%20-%20AMA.pdf
Lamy M, Malta KC. Avanços e riscos da inteligência artificial na atenção à saúde. LSS [Internet]. 2023 [Acesso 2025 fev 26];12(2):108-19. Disponível em: https://periodicos.unisanta.br/LSS/article/view/936
Dourado DA, Aith FMA. A regulação da inteligência artificial na saúde no Brasil começa com a Lei Geral de Proteção de Dados Pessoais. RSP. 2022;56:1-7. doi: https://doi.org/10.11606/s1518-8787.2022056004461 DOI: https://doi.org/10.11606/s1518-8787.2022056004461
Fiddler [Internet]. [local desconhecido]: Fiddler; [sem data]. AI explained: genAI use cases and challenges in healthcare. [Acesso 2025 mar 03]. Disponível em: https://www.fiddler.ai/webinars/ai-explained-genai-use-cases-and-challenges-in-healthcare?utm_source=mkto&utm_medium=email&utm_campaign=genai-healthcare&mkt_tok=NTEzLVJQUS02OTkAAAGY7LDtzKLF0IbPJTIS_ffwXHVsUElPQjrfsKd5oo6LRrWEDuevAmZrhDW_Y1fWCMI7ECmjhIaF81cIDx9JlroM1-Pp-ShT0osaW8czSCnpYw
Comitê Gestor da Internet no Brasil. Inteligência artificial na saúde: potencialidades, riscos e perspectivas para o Brasil [Internet]. São Paulo: NIC.br; 2024. [acesso 2025 fev. 15]. 338p. Disponível em: https://cetic.br/media/docs/publicacoes/7/20240903150639/estudos_setoriais-ia-na-saude.pdf
Rech R. Vencedores do prêmio turing fazem alerta sobre IAs sem sistemas de segurança. Exame [Internet]. 2025 mar 5. [Acesso 2025 mar. 7]. Disponível em: https://exame.com/inteligencia-artificial/vencedores-do-premio-turing-fazem-alerta-sobre-ias-sem-sistemas-de-seguranca/
Mordor Intelligence [Internet]. [local desconhecido]: Mordor Intelligence; [sem data]. Artificial intelligence in medicine market size & share analysis - growth trends & forecasts (2025 - 2030). [Acesso 2025 mar 10]. Disponível em: https://www.mordorintelligence.com/industry-reports/artificial-intelligence-in-medicine-market
Braga L, Lopes R, Alves L, et al. The global patent landscape of artificial intelligence applications for cancer. Nat Biotechnol. 2023;41(12):1679-87. doi: https://doi.org/10.1038/s41587-023-02051-9 DOI: https://doi.org/10.1038/s41587-023-02051-9
National Institute of Health [Internet]. [local desconhecido]: NIH; 2022. NIH launches Bridge2AI program to expand the use of artificial intelligence in biomedical and behavioral research, 2022 set 13. [Acesso 2025 mar 11]. Disponível em: https://www.nih.gov/news-events/news-releases/nih-launches-bridge2ai-program-expand-use-artificial-intelligence-biomedical-behavioral-research
Instituto Nacional de Câncer [Internet]. Rio de Janeiro: INCA; 2022. Sumário executivo: gastos federais atuais e futuros com os cânceres atribuíveis aos fatores de risco relacionados à alimentação, nutrição e atividade física no Brasil, 2022. [Acesso 2025 mar 13]. Disponível em: https://www.inca.gov.br/publicacoes/relatorios/gastos-federais-atuais-e-futuros-com-os-canceres-atribuiveis-aos-fatores-de
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Os direitos morais e intelectuais dos artigos pertencem aos respectivos autores, que concedem à RBC o direito de publicação.
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
