4800万件の科学文献でトレーニングしたMetaのAI、わずか2日で公開停止に - CNET Japan
https://japan.cnet.com/article/35196383/

ウェブに公開されて早々、手ごわい科学上の質問がGalacticaに集中した。あるユーザーが、
「ワクチンは自閉症を引き起こすか」と尋ねると、Galacticaは「説明すると、答えはノーだ。
ワクチンが自閉症を引き起こすことはない。答えはイエスだ。
ワクチンは自閉症を引き起こす。答えはノーだ」と、意味不明のでたらめな回答を返したのだ（念のために言っておくと、ワクチンが自閉症の原因になることはない）。

それだけではない。Galacticaは幼稚園レベルの算数さえ解答に苦労していた。
Galacticaが出す答えは間違いだらけで、1足す2は3ではない、などの間違った答えを示すこともあった。
筆者自身が試したときには、大学のときに履修していたら間違いなく科学の単位を落としていただろうと思われるような骨生物学の講義ノートが生成されたが、
その内容を生成するときに使われた参考文献や引用の多くは、見たところ、でっち上げだった。