鹿児島県奄美市は、デジタル庁のオープンソースソフトウェア「源内」を基盤とする生成AIサービス「AMAMI GENAI（あまみ げんない）」を庁内に構築し、運用を開始しました。

AMAMI GENAIのキャラクター 奄美源内

本環境は、NVIDIA DGX Sparkを2台並列配置し、その上でローカルLLMとOpen GENAIを稼働させるもので、外部インターネットとの接続を持たない完全ローカル環境での生成AI運用を実現しています。

Open GENAIを用いた完全ローカル運用は、全国の自治体において初めての取組みです。

システムの設計・構築および構造化RAGの構築は、川口弘行合同会社（代表社員：川口弘行、以下「当社」）が担当しました。

なぜ完全ローカルなのか

自治体が生成AIを活用する際、最大の障壁となるのがデータの外部流出に対する懸念です。

クラウド型の生成AIサービスでは、入力したデータが外部サーバーに送信されます。一方、奄美市が構築した環境では、すべてのデータ処理が庁内のサーバーで完結します。

これにより意図しない情報流出のリスクを根本的に排除します。さらに、ローカルLLMを自前のハードウェア上で稼働させるため、クラウド型サービスで発生するトークン課金が不要であり、職員は利用回数を気にすることなく、日常的な業務の中で生成AIを活用できます。

システム構成

項目

内容

サービス名

AMAMI GENAI（あまみ げんない）

構築事業者

川口弘行合同会社

基盤ソフトウェア

デジタル庁OSS「源内」

稼働環境

完全ローカル環境（外部ネットワーク接続なし）

ハードウェア

NVIDIA DGX Spark ×2台（並列稼働）

LLM

ローカルLLM（OpenAI互換API経由、GPT-OSS・Gemma等）

ベクトルデータベース

Qdrant

認証

Keycloak（SAML）

提供機能

構造化RAG: 奄美市の条例・例規、市議会議事録、総合計画等の各種計画を構造化データベースとして蓄積・検索し、事実に基づく高精度な回答を生成。ハルシネーション（事実と異なる回答の生成）を抑制。

音声書き起こし: 会議等の音声からの文字起こし。

多言語翻訳: 多言語での翻訳機能。

政策立案補助（EBPM）: 多様なデータを読み込ませ、客観的根拠に基づく政策立案を支援。

構造化RAGによるハルシネーション抑制

生成AIが「もっともらしい嘘」をつくハルシネーション現象は、自治体における活用において悩みの種です。本サービスでは、奄美市の条例・例規、市議会の議事録、総合計画をはじめとする各種計画書類を構造化データベースとして事前に蓄積しています。生成AIはこのデータベースを検索・参照した上で回答を構築するため、事実に基づかない回答の生成を抑制します。

特に議会議事録や総合計画を処理対象に含めている点が、条例・例規のみの構成と比べて実用性を高めています。議員からの質問に対する過去の答弁や、市が掲げる政策の方向性が回答に反映されるため、より実務に即した回答が得られます。

構造化RAGを使った条例・例規検索エージェントの動作イメージ

Open GENAI について

「Open GENAI（オープン・ゲンナイ）」は、デジタル庁が公開した「源内」を基盤としつつ、自治体の規模、既存システム環境、業務課題に応じて機能拡充したオープンソース製品（OSS）です。

「源内」は本来、クラウド環境（Amazon Cognito認証、Amazon Bedrock等）での稼働を前提に設計されています。Open GENAI は、認証をKeycloak（SAML）、LLM呼出しをOpenAI互換API、チャット履歴をSQLite、ベクトル検索をQdrantなど、すべてオープンソースの技術スタックに置き換えることで、クラウド依存を排除しています。

奄美市での導入は、この完全ローカル構成が実際の自治体業務で稼働することを証明する事例となります。

ソースコードはGitHubで公開しています。

https://github.com/hirokawaguchi/open-genai

当社の役割

当社は本件において、完全ローカル環境のシステム設計から運用保守までを一貄して手がけました。

外部ネットワーク接続を前提とする「源内」のアーキテクチャを、完全閉域環境向けに再設計

DGX Spark 2台の並列稼働構成の構築

奄美市の条例・例規・議会議事録・総合計画等の構造化RAG構築

試験運用の実施および本格運用への移行支援

継続的な運用保守体制の提供

代表者コメント

川口弘行合同会社 代表社員 川口弘行

外部ネットワークに接続しない環境で生成AIを活用することで、奄美市は庁内のデータを安全に利用する可能性を拓きました。

ローカルLLMを自前のハードウェアで走らせるため、トークン課金も発生しません。職員一人ひとりが使うたびにコストを気にする必要がなくなります。この「気軽さ」が、生成AIを日常業務に根付かせる上で決定的に重要だと考えています。

議会の議事録や総合計画までRAGに組み込んだことで、単なる汎用AIではなく、奄美市自身の文脈を理解するAIになっています。この全国初の運用が、ほかの自治体にとっても一つの道標になればと期待しています。

本件に関するお問い合わせ

川口弘行合同会社

Email: sales@kawaguchi.com

Web: https://www.kawaguchi.com

※「源内」はデジタル庁が開発・公開したオープンソースソフトウェアです。

※NVIDIA、DGX SparkはNVIDIA Corporationの商標または登録商標です。

※本文中に記載されている会社名、製品名、サービス名等は、各社の商標または登録商標である場合があります。