AIのハルシネーションがバイオメディカル論文に氾濫
AIの使用が疑われる影響で、バイオメディカル論文における捏造された引用が2023年以降12倍以上に増加した。
研究者らが247万件のバイオメディカル論文を監査したところ、捏造された引用が2023年から2026年初頭の間に12倍以上増加していることがわかった。 その割合は、4件から10,000件あたり56.9件に跳ね上がり、AI生成テキストが査読に導入された時期と相関している。これらの幻覚は、臨床ガイドラインの基礎となるレビュー論文に潜入し、証拠の連鎖を危うくする可能性があるため、危険である。 著者らは、この急増の原因を言語モデルに帰し、出版前の自動スクリーニングと遡及的なデータベースのクリーンアップを推奨している。