社内AIを外に出さない選択肢が整理された

アイスマイリーが「ローカルLLM・オンプレ生成AIサービス選定チェックリスト」を公開した。対象として明示されているのは、機密情報をクラウドに送れない企業、閉域・オフライン環境でAIを動かしたい環境、社内データをRAGで活用したいケースの三つだ。

クラウド型生成AI（ChatGPTやClaudeのAPIなど）は手軽で高性能だが、入力したデータが外部サーバーに送信される構造は変わらない。利用規約上でのデータ学習可否とは別に、「送信した時点で外に出た」と見なされる業界・用途は存在する。このチェックリストは、その判断を「どのチェックリスト項目に当てはまるか」という形式で可視化しようとした試みとして注目されている。

「ローカルLLM」というと、企業のITインフラ担当者向けの話に聞こえるかもしれない。ただ、使う側の個人レベルでも「扱う情報の種類によってクラウドかローカルか」を判断する時代になってきている。

具体的には、こんな場面だ。顧客の個人情報・契約書・未公開の財務データを含む文書をAIに読ませたいとき。競合に知られたくない企画や戦略メモをまとめさせたいとき。クライアントから預かった素材をAIで整形したいとき。これらをクラウド型AIに貼り付けることへの判断を、「まあ大丈夫だろう」ではなく根拠を持って下せるかどうかが、使う側として問われている。

チェックリストの設問は「自社の情報セキュリティポリシーがクラウド利用を許可しているか」「インターネット接続が制限された環境か」「RAGで使いたい社内データの種類は何か」といった軸で構成されている。企業向けに作られているが、個人が自分の情報管理方針を見直すためのフレームとしても読める。

Claude vs Cursor、どちらを選ぶ？AIツール課金の判断軸でも触れたように、「どのツールを使うか」だけでなく「どんな情報をどのツールに流すか」の判断軸を持つことが、実践者としての基礎になりつつある。

ローカルLLMを個人が動かすうえで現在もっとも普及しているのが「Ollama」だ。Mac・Windows・Linux対応で、コマンドラインからLlama3やMistralなどのモデルをローカルに落として動かせる。インターネット接続不要で推論が走り、入力内容は一切外部に送られない。

M2以上のMacBook Proであれば7Bや13Bクラスのモデルは実用速度で動作する。クラウド型AIと比べて回答の精度は落ちるケースもあるが、「この情報は外に出したくないが補助的に使いたい」という用途には十分な水準に来ている。

アイスマイリーのチェックリストはどちらかというとオンプレサーバー構成を想定した内容だが、発想の方向性は同じだ。「どのデータをどこで処理するか」を設計する、という考え方そのものが、個人レベルでも応用できる。