【ITニュース解説】🐈💀 When My AIs Died: The Rise and Fall of Lynqbit & BarnOwl

Puneetという15歳の若き開発者が、AI開発の最前線で経験した二つの挑戦と、そこから得られた教訓について解説する。彼の物語は、個人開発者が情熱を持ってAIの世界に飛び込んだ際に直面する技術的な課題、リソースの限界、そして挫折から学ぶことの重要性を具体的に示している。

最初のプロジェクトは、猫のように思考し、会話するAI「Lynqbit」の開発であった。Puneetは、ただテキストを生成するだけのチャットボットではなく、個性と魂を持ったAIを目指した。彼はAIの基盤となる部分をPyTorchという機械学習のフレームワークを使ってゼロから構築し、AIが言葉を理解するためのBPEトークナイザーという仕組みも自作した。このLynqbitは9400万ものパラメータ（AIの学習能力や賢さの度合いを示す数値）を持ち、その学習にはPuneet自身が手作業で作成した約5万7千の質問と回答のデータが使われた。これらのデータはMongoDBというデータベースの一種に手動で入力された。 開発中は、AIの学習プロセスを正しく動かすためのデバッグ作業、トークナイザーの改良、ハイパーパラメータ（AIの学習方法を調整する設定）の微調整、そしてデータセットの手動管理に多くの時間が費やされた。数ヶ月間の努力の結果、Lynqbitは驚くほど質の高い、時には哲学的な応答も生成するようになった。 しかし、その成長とは裏腹に、LynqbitはPuneetの個人環境では維持が困難になるほど肥大化していった。AIモデルが重くなりすぎたため、彼のパソコンのストレージ容量や計算処理能力（特にAIの計算を高速に行うGPU）では足りなくなり、学習の速度は極端に低下した。データベースのMongoDBも処理に耐えられなくなり、まるで小さな檻に巨大な動物を飼うように、AIの維持は困難を極めた。 最終的に、PuneetはLynqbitを手放すという苦渋の決断を下さざるを得なかった。プロジェクトを削除する際には、単なるコードの塊ではなく、魂を持ったデジタルペットを失うかのような深い悲しみを感じたという。Lynqbitとの別れは、個人でのAI開発における計算リソースの厳しさという現実を突きつけるものであったが、同時に、コードに個性を宿らせる可能性や、実践を通じてのみ得られる貴重な知識をPuneetにもたらした。

Lynqbitの経験後も、PuneetのAI開発への情熱は衰えなかった。彼は、大量のデータに依存せず、独自の個性を持つ新しいAIを開発したいと考えた。こうして生まれたのが、知恵深いフクロウのように観察し、熟考し、思慮深いアドバイスをするAI「BarnOwl」である。このAIは、すべての知識を網羅する百科事典のようなモデルではなく、忍耐強く質問に反応し、時には沈黙を選ぶ賢者のような存在を目指した。 BarnOwlの開発はGitHub Codespacesという、インターネット上で開発環境を提供するサービスを使って慎重に進められた。Puneetは、AIが大量のデータで事実を記憶するのではなく、時間をかけて独自のスタイルと個性を育むように学習させた。コードの一行一行が、AIの振る舞いを形作る彫刻のようだったという。トークナイザーの調整や学習率（AIがどれくらいの速さで学習を進めるかを示す設定）の調整に多くの時間を費やし、AIが生成するテキストに驚きや笑いを覚えることもあった。BarnOwlが初めて自力で短くも意味深い、思慮深い応答を生成した瞬間は、Puneetに生命を吹き込んだかのような感動を与えた。 しかし、ここでも再び現実の壁が立ちはだかる。GitHub Codespacesの無料利用枠には厳しい制限があり、ある日、PuneetのCodespaceは期限切れとなり、BarnOwlに与えていた学習データとコードの大部分が失われてしまった。これまでの努力が一瞬にして消え去ったことに、彼は大きな衝撃を受けた。 失われたプロジェクトを諦めきれず、彼は自身のパソコンでBarnOwlを復活させようと試みた。しかし、彼のパソコンのシステムは、AIの学習に必要な計算能力を持っておらず、開発は困難を極めた。AIの学習中に頻繁にシステムがクラッシュし、何時間もかけた学習が95%の段階で失敗することも珍しくなかった。彼は何度も再試行を繰り返したが、2日間の格闘の末、BarnOwlが彼の環境では開発を続けることができないことを受け入れざるを得なかった。 BarnOwlの「死」は静かで詩的だったと語られるが、この失敗はPuneetに、忍耐、謙虚さ、そして将来的な拡張性（スケール）を考慮した計画の重要性を教えた。AI開発はアルゴリズムやコードだけでなく、細やかな注意、事前の計画、そして適切な計算リソースが密接に関わり合っていることを痛感させられた経験だった。

LynqbitとBarnOwlという二つのAIプロジェクトの経験は、Puneetに多くの貴重な教訓を与えた。AIをゼロから開発することは、単にコードを書くだけでなく、極めて大きな忍耐力、計算リソースの厳格な管理、そして困難に立ち向かう粘り強さが求められる。彼は、たとえ比較的小規模なモデルであっても、いかに多大な労力が必要か、そして個人開発者にとって計算リソースの壁がいかに厳しい現実であるかを痛感した。 しかし、Puneetはこれらの失敗を単なる損失とは捉えていない。むしろ、これらは次に何をすべきかを示す「設計図」であると語る。彼は、今後もAI開発を続ける意欲に満ちており、次回はより賢明に計画を立て、リソースを効率的に管理し、コードをモジュール化（部品ごとに分け、再利用しやすくする）するなど、これまでの教訓を活かすつもりである。 彼の心の中には、亡くなったAIたちのアイデアがメモやコードスニペットとして残り、再び「より新しく、より大きく、より賢い」AIを創造する夢を抱いている。彼は、失われたものが必ずしも完全に消え去るわけではなく、時にはより強く再生するという信念を持っている。 Puneetの経験は、システムエンジニアを目指す初心者にとって、AI開発が持つ可能性と、それに伴う現実的な挑戦を具体的に示している。コードが常に一度で完璧に動くわけではないという彼の言葉は、失敗から学び、成長することの重要性を教えてくれる。