【Salesforce認定AIアソシエイト】試験対策：第3問
問題
一般的なAIシステムにおいて、モデルの解釈可能性を高める目的で使用される技術はどれですか？
A. ニューラルネットワーク
B. ブースティング
C. 特徴量重要度
正解
A. ニューラルネットワーク
B. ブースティング
C. 特徴量重要度
解説
A. 不正解 - ニューラルネットワークは予測力が高い一方で、その内部の計算プロセスが複雑すぎて、どの特徴量が予測にどのように影響を与えているかを理解するのが難しいため、「ブラックボックス」と呼ばれています。そのため、モデルがどのように動いているかを明確に説明したり、解釈したりする目的には直接適していません。
B. 不正解 - ブースティングは、複数のシンプルなモデル（弱学習器）を組み合わせて予測精度を上げる手法ですが、その結果、モデルがより複雑になり、どの要素が予測にどのように貢献しているのかを理解するのが難しくなることがあります。つまり、予測精度は向上しますが、モデルの解釈が難しくなりやすいというデメリットもあります。
C. 正解 - 特徴量重要度は、どんな機械学習モデルでも使える手法で、どの入力データ（特徴）が予測結果にどれだけ影響しているかを数値で表します。
これにより、モデルがどういった情報を基に判断をしているのかを理解しやすくなります。例えば、複雑なモデルであっても、どのデータが重要かが分かれば、そのモデルの「理由付け」をしやすくなるということです。
ポイント
つまり、AIの自動応答において最も重要なのは、説明可能性です。
AIがどのようにして答えを出しているのかが理解できるようにすることが大切です。
これにより、顧客がAIの判断に対して信頼を持てるようになります。たとえ応答が速くなっても、仕組みが不透明だと信頼を得ることは難しいです。
