シコファンシー（その他表記）sycophancy

デジタル大辞泉

シコファンシー（sycophancy）

《迎合・追従ついしょうの意》 大規模言語モデルに基づく対話型AIにおいて、事実の正確性や誠実さよりも、利用者の意向や意見に同調する回答が優先される傾向のこと。道徳や倫理に関する禁止規定を学習させるRLHFにより、利用者に好意的な回答が選ばれやすくなることが原因とされる。追従性。

出典　小学館