Uma ferramenta que precisa ser entendida, explorada, considerada, usada, mas sem perder de vista a análise crítica. Este foi o discurso que permeou o Simpósio ChatGPT na Saúde, realizado pela comissão de Cultura e Extensão da Faculdade de Medicina da Universidade de São Paulo (FMUSP), na última semana.
Tendo em vista a importância da academia para educar, pesquisar e desenvolver inovações, a iniciativa serviu também para o lançamento do curso de extensão “Entendendo o ChatGPT na Saúde – Impactos no Ensino Médico, na Pesquisa e nos Cuidados com o Paciente”.
“Quando a sociedade tem alguma novidade e precisa de uma base para se informar, nada melhor que a universidade se apresente para ser esse agente de discussão, fazer a interpretação de tudo o que está acontecendo”, destacou o reitor da Universidade de São Paulo, Carlos Carlotti Júnior.
O evento, além de trazer uma visão geral sobre o que é ChatGPT, falou sobre o impacto da tecnologia na saúde do ponto de vista de mercado, de ensino, de pesquisa e de cuidado com o paciente.
Outro consenso entre os participantes é o fato de que o ChatGPT é uma ferramenta em desenvolvimento. “É uma prova de conceito no ar”, como definiu Chao Wen, coordenador de Telemedicina da Faculdade de Medicina da USP. O hype em cima da ferramenta também gera muitas expectativas exageradas e o caminho para o bom uso dele está em aprender como utilizá-lo, e regulamentar o uso da Inteligência Artificial.
Entendendo o ChatGPT, seus impactos e limitações
Os palestrantes ressaltaram o fato de o ChatGPT ser uma Inteligência Artificial que utiliza um modelo de linguagem natural. “O que a ferramenta faz é um cálculo de probabilidade de qual palavra virá em seguida, construindo textos lógicos e plausíveis. Ela é uma ferramenta de escrita”, explicou Luciano Ramalho, consultor da Thinkworks.
Com isso estabelecido, é fácil perceber que o ChatGPT ainda comete muitos erros de informação. Na demonstração feita, o executivo mostrou o erro em dados históricos, por exemplo, ou em atribuir o conteúdo a um livro, inventando frases, além de oferecer links que não levam a lugar algum ao ter as referências do conteúdo solicitadas. “Hoje é válido utilizar o ChatGPT para pesquisar temas que são passíveis de checagem”, apontou o especialista, destacando o alto custo de desenvolvimento da ferramenta, impulsionado, sobretudo, pelo exército de pessoas envolvidas em seu treinamento, e na checagem dos conteúdos, para não apresentarem riscos.
O uso do ChatGPT na saúde
Para uma aplicação precisa na saúde, o professor Chao Wen destacou que o ChatGPT é apenas uma modalidade dentro do conceito de Inteligência Artificial, e se aplica a modelagem de linguagem natural. Na visão do professor, a eficácia da ferramenta depende do banco de dados utilizado. “Se queremos utilizar para a área de saúde, possivelmente vamos ter que licenciar o algoritmo do ChatGPT e olhar para uma base de dados, indexando evidência científica nesse caso, para termos uma melhor qualidade da informação”, apontou.
No campo da formação médica, a coordenadora de ensino e pesquisa do Centro de Desenvolvimento de Educação Médica FMUSP, professora Patricia Kempski, se mostrou uma entusiasta da inovação, e listou formas de utilizar a inteligência no decorrer do ensino, assimilando a tecnologia junto à análise crítica “Podemos ensinar o uso da Inteligência Artificial, por exemplo, uma vez que os médicos irão utilizá-la. Por que não podemos ensinar o bom uso?!”.
A educadora ainda destacou atividades que podem ser desenvolvidas tendo os quatro Cs da educação para o século XXI como base (comunicação, colaboração, criatividade e crítica): discussões acerca do que for gerado pelo ChatGPT e desenvolvimento do pensamento crítico, por exemplo.
No campo da pesquisa, não só foi destacado o avanço que a ferramenta pode trazer para as proposições de linhas de pesquisa, como ajudar também na análise e aprovação das propostas. E no campo do cuidado, além de pesquisas que podem ajudar os médicos numa decisão clínica, numa fase mais avançada da ferramenta, o benefício para o paciente também é grande, por ter informações mais precisas sobre tratamentos, acesso e interações medicamentosas, por exemplo.
Cautela em relação ChatGPT e as IAs
Durante o Simpósio, realizado no dia 20 de março, os participantes pontuaram as questões relativas à imprecisão da ferramenta. Por usar um banco de dados extenso e tratar de assuntos gerais, a imprecisão é consequência. Além disso, o ChatGPT ainda precisa passar por regulamentação para discutir temas como direitos autorais, o acesso e uso de dados, além de definições sobre responsabilidades de uso.
Nesta quinta-feira, 29, um grupo de centenas de proeminentes pesquisadores, empresários, especialistas e executivos do setor, dentre eles Elon Musk e o historiador Yuval Harari, publicou uma carta aberta pedindo uma pausa na pesquisa e desenvolvimento das inteligências artificiais, por pelo menos seis meses. O motivo é o risco que elas representam hoje para a humanidade. Na carta publicada no site Future of Life Institute, o grupo reforça que se as tecnologias avançarem sem ter rotas corrigidas, e regulamentações discutidas, podem trazer ao mundo “dramáticas perturbações econômicas e políticas, com riscos, especialmente para a democracia”.
