当院では、問診システムや健診システム、電話対応の仕組みなど、院内で使うシステムを私自身が設計・構築しています。その一環として、2026年8月から「ローカルLLM(自院内で動くAI)」の環境づくりに取り組んできました。今回はその歩みを、備忘録として残しておきたいと思います。
なぜ院内にAIサーバーを置くのか
クラウドのAIサービスは便利ですが、電話の録音データのように患者さんの個人情報を含むものを外部に出すのは、できるだけ避けたいと考えています。そこで、院内のネットワークの中だけで完結するAIサーバーを一台立てることにしました。
やりたかったことは主に二つです。
- 音声の文字起こし — 電話対応の録音を自動でテキスト化し、後から内容を確認しやすくする
- 画像生成 — ホームページや院内広報物で使うイラスト素材を、自前で作れるようにする
サーバーの土台づくり
使用したのは Getorli というメーカーの小型PC(通称「llm」)です。OSに Ubuntu を入れ、院内ネットワークに固定IPで参加させました。この段階で早速つまずいたのが、外付けGPUを接続した際にネットワークカードの名前が変わってしまい、固定IPが外れるという問題です。原因を突き止め、ハードウェアのMACアドレスで機器を特定する設定に切り替えることで、GPUを抜き差ししても壊れない構成に落ち着けました。
GPUの導入
AIの処理には強力なグラフィックボードが必要です。今回は RTX 5060 Ti(16GB)を、OCuLinkという規格で外付け接続しました。最新世代のGPUだったこともあり、対応するドライバの選定にはやや苦労しましたが、最終的には安定して動作する組み合わせにたどり着き、nvidia-smi コマンドでGPUが正しく認識されていることを確認できました。
音声文字起こしの検証
GPUが動くようになったところで、実際に文字起こしエンジン(faster-whisper)を試しました。結果は上々で、実際の声を録音したテストでは、24秒の音声をわずか1.2秒ほどで文字に変換できました。10分の通話であれば、30秒程度で処理できる計算になります。電話回線相当の音質に落としても精度はほとんど変わらず、実用に足るという手応えを得ました。
一方で、「なかうずらクリニック」が「中尾寺クリニック」と誤認識されるなど、固有名詞特有の課題も見えてきました。AIへの事前指示(プロンプト)で直そうとすると逆に文章の区切りが崩れてしまう、という思わぬ副作用もあり、最終的には認識結果を後から正規表現で置き換える方式に落ち着けました。これなら誤変換を見つけるたびに一行足していくだけで、少しずつ賢くしていけます。
これから取り組みたいこと
現時点でのローカルLLMの到達点は、「音声文字起こしの実用化のめど」が立ったところです。ここから先は、次のようなことに広げていきたいと考えています。
- ホームページや院内広報物向けのイラストを、このサーバーで生成する
- Ollama(ローカルで動く対話AI)を試してみる
- VOICEPEAK(音声合成)を使った日本語音声の生成
- 電話の録音データを実際にこの仕組みへつなぎ込む
まだ道半ばですが、コーディングやサーバー構築という技術的なハードルが、AIエージェントの進化によって以前より現実的に乗り越えられるようになってきたことを、日々実感しています。少しずつ、院内のスタッフも巻き込みながら形にしていきたいと思います。