8月27日，近日，《美国医学会肿瘤学杂志》刊登的一篇研究报告指出，ChatGPT生成的癌症治疗方案漏洞百出，毫无参考意义。
据悉，该研究来自哈佛医学院附属的布里格姆妇女医院，该医院的研究人员发现，在ChatGPT回答的关于癌症病例与其治疗方案的回答中，有三分之一存在不正确信息。
更致命的是，这些错误信息被ChatGPT与正确信息混杂在一起，导致用户难以分辨到底哪些信息是准确可靠的。
参与该研究的Danielle Bitterman博士称，ChatGPT回答中，错误信息与正确信息的混合程度相当高，已经达到了专家也难以发现问题的程度。
事实上，此前就曾有大量消息指出，目前的ChatGPT，或其他生成式人工智能，仍然存在给出强误导性、或是完全错误信息的情况。
对此，以OpenAI为首的人工智能研发团队已经表示，将在后续的开发中提高AI回答的可靠性，避免这样类似“幻觉”情况的出现。
此外，OpenAI已经在使用条款中警告用户，模型并非是为提供医疗信息设计，也不应该被用于为严重的医疗状况提供诊断或治疗服务。
