忘却の物差し、AIが「忘れる」を測るLACUNAの試み

人の記憶は、20分も経てば約42％が失われる、ドイツの心理学者ヘルマン・エビングハウスが1885年に発表した、いわゆる「忘却曲線」です。

なるほど、私たちの頭はよくできた「忘れんぼ」ですね。

ところが、今の人工知能はどうでしょう。

大規模言語モデル（LLM）は、学習時に個人情報などのセンシティブなデータをまるごと記憶してしまうことがあり、それを後から安全に「忘れさせる」技術が求められています。

この「アンラーニング」と呼ばれる分野で、最近注目の研究が発表されました。

その名も「LACUNA」、LLMの忘却精度を、これまでにない厳しさで試すテストベッドです。

なぜ「本当に忘れたか」が難しいのか

アンラーニングの一般的な手順は、まずモデルの中で問題の知識が蓄えられている場所（パラメータ）を特定し、次にその部分を上書きするように学習し直す、という二段構えです。

しかし、これまでの評価方法は、モデルの出力だけを見て「忘れたかどうか」を判断するものが主流でした。

たとえば、「Aさんの住所を忘れさせた」ときに、モデルがその住所を答えなくなれば成功、と見なすわけです。

けれども、それで本当に安心できるでしょうか。

実は、出力を巧妙にごまかしているだけで、モデルの内部にはまだ記憶がこっそり残っているかもしれません。

実際、「再浮上攻撃」と呼ばれる手法を使うと、一見すると忘れたように振る舞うモデルから、元の情報を引き出せてしまうケースが報告されています。

つまり、アンラーニングの品質をきちんと測るには、出力だけでなく、パラメータの奥深くまで見通す「ものさし」が必要なのです。

今回登場したLACUNAは、まさにその「ものさし」を提供するテストベッドです。

特徴は、あらかじめ「正解の場所」がわかっている状態で、アンラーニングの精度を試せること。

研究チームは、OLMoというオープンなLLM（10億パラメータと70億パラメータの2種類）をベースに、合成した架空の個人情報（PII）を、マスク付きの追加学習によって意図的に特定のパラメータへと埋め込みました。

つまり、「この辺りに記憶がありますよ」というグラウンドトゥルース（正解データ）を用意したのです。

これによって、アンラーニング手法が本当に記憶の在り処を狙い撃ちできているのか、それとも的外れな場所をいじっているのかを、直接検証できるようになりました。

LACUNAを使ったベンチマークでは、現在の最先端とされるアンラーニング手法がいくつかテストされました。

結果はなかなか手厳しいもので、出力レベルでは高い性能を示していた手法も、パラメータレベルで見ると驚くほど不正確だったのです。

狙ったパラメータ以外の無関係な部分まで大きく書き換えてしまい、しかも再浮上攻撃への耐性も低い。

これでは、表面的には忘れていても、ちょっとしたきっかけで記憶がよみがえる「うわの空」の忘却と言わざるを得ません。

一方で、LACUNAを使って正しい箇所をピンポイントで狙えると、勾配ベースのシンプルな手法であっても、しっかり記憶を消し去り、攻撃にも強いことが示されました。

つまり、鍵は「どこを忘れさせるか」を正確に見極めることにある、というわけです。

私自身は音楽の録音や機材いじりを生業としていますが、この話にはどこか通じるものを感じます。

ノイズを除去するとき、原因になっている特定の周波数帯を狙わずに全体をいじると、かえって音の生気を損ねてしまう。

逆に、ピンポイントで処理すれば、本来の響きを残したまま嫌なノイズだけ消える。

AIの記憶も、それと同じ繊細さを求められているのかもしれません。

LACUNAの登場は、アンラーニング技術に「正しい物差し」をもたらす一歩です。

プライバシー保護の観点からも、またAIをより信頼できる道具として育てていくためにも、このような評価基盤の進化は頼もしい限り。

忘れることの難しさは、どうやら人も機械も変わらないようです。