Frieve（小林由幸） : Local AI の幻想を捨てろ！
（全体俯瞰 : AI 生成） click で拡大
（情報源）
前置き＋コメント
小林由幸のこの主張は、正論 6割、極論 4割 ではなかろうか。
今後の、（ロボットを除いた）AI 利用の中心は研究者でも開発者でもまして個人ではなく、企業の一般事務業務で、当然社外秘が大半。
取引先企業のデータも関わってくるから自社の判断だけで、これを クラウド型 AI に任せるのは、現状では現実的ではない。
一方で、企業内部の様々な定型化、マニュアル化した人手による一般事務業務を AI 化によってコスト削減、効率化するという巨大な需要がある。
結局、
-
漏洩しても問題のないサンプル・データと処理方法を クラウド型 AI に与えて、local AI 専用の精密なプロンプト群を作成させ、
-
その専用プロンプト群を local AI に与え、local AI で社外秘の実データを処理させる
…といったような二段階の妥協案を採用することになるのではないか。
つまりクラウド型 AI に local AI の先生役をやらせるが、先生役にはサンプルデータだけ見せ、実データは見せない。local AI は先生が詳細化、具体化した方法に基づいて実データを処理…といっ た二段階のそれぞれで AI を使い分ける事になるのではないか。
以下、情報源を NotebookLM で整理した内容。
要旨
この動画は、多くのユーザーが抱く「ローカルAI（PC上での自前運用）」への憧れに対し、実用性とコストの両面から疑問を呈しています。
著者は、最新のクラウドAIサービスを利用することこそが、性能・費用・運用効率のすべてにおいて圧倒的に有利であると断言しています。ローカル環境で動く小型モデルが進化しても、巨大なリソースを背景とするクラウドのフラグシップモデルとの性能差は埋まらず、知能の差が成果に直結すると説いています。また、導入費用や電気代を考慮するとローカル運用は決して安価ではなく、セキュリティや管理の面でも専門家が運営するクラウドの方が強固です。
結論として、研究開発や特殊な規制がない限り、クラウドの先端技術を使いこなすことが最も合理的であると結論付けています。