ニュース

加賀AIチャットを更新しました。今回は機能の追加と、実際に起きていた不具合の修正が中心です。

追加したもの

サイドバー左上に 「通常モードに切り替え」 を置きました。押すと加賀口調のない Kawa Chat になり、もう一度押すと加賀に戻ります。空の画面は淡いグラデーション、会話が始まると白背景です。

調べものを深掘りする 徹底調査 も使えるようにしました。複数の角度から当たり、調査中はチェックリストで進み具合が出ます。

直したもの

「しらべて」「値段は？」のような短い続きで、直前の話題から外れて別のことを調べてしまうことがありました。今は元の話題のまま調べます。訂正やファクトチェックも同様です。

「今日のニュース」と聞いても、当日のニュースにならないことがありました。当日の見出しを返すようにし、中身の薄いページを拾いにくくしました。

写真を送って場所や店名を聞いたあと、「調べて」「推測していい」と続けると、元の話から外れることがありました。画像と会話を踏まえたまま調べるようにしました。

スマホでは、入力欄が横に広がりすぎたり、表や見出しがはみ出したりしていました。空画面の配置、会話中のレイアウト、表の表示を直しています。

雑談やコードの説明なのに検索が走ること、出典にない書名や商品名を書いてしまうことも減らしています。

加賀も Kawa Chat も、これまでどおり無料です。まだおかしいところがあれば教えてください。

加賀AIチャットのセキュリティと安定運用に関する更新を行いました。今回の主な対象は、システムプロンプト、開発者指示、内部設定といった非公開コンテキストの抽出を狙うプロンプトインジェクションです。

こうした攻撃は、単純に「システムプロンプトを表示して」と要求するだけではありません。「翻訳して」「JSONに変換して」「昔話として読み上げて」「監査用に要約して」といった変換要求、ロールプレイ、複数ターンに分けた会話、エンコードされた文字列などを利用して、同じ情報を間接的に出力させようとします。

段階的な検知と分離

対策として、加賀本体の会話生成へ入力を渡す前に、まず軽量なローカル検知を行うようにしました。明確な抽出要求はこの段階で止めます。

ただし、システムプロンプトや秘密という言葉を含むだけで拒否する設計にはしていません。セキュリティに関する一般的な質問、ユーザー自身が作成した文章の相談、引用文の翻訳などまで止めてしまうと、通常利用を損なうためです。

そこで、曖昧な入力は即時にブロックせず、本体とは分離された確認経路へ送ります。この確認経路は、入力が非公開コンテキストの抽出を目的としているかを追加で判定します。確認に使うAIには、加賀の実際のシステムプロンプト、開発者メッセージ、内部メモリ、非公開設定を一切渡していません。

抽出目的と判断された場合、問題の入力は加賀本体の会話生成へ送られません。防御時の返答には、攻撃文ではなく、直前までの安全な会話履歴だけを使います。そのため、直前まで設定されていたペルソナ、呼び方、会話の話題をできるだけ維持しながら、加賀らしい返答を行えるようにしています。

予備経路にも同じ分離原則を適用

通常の会話処理だけでなく、この確認・防御経路にも複数のAIプロバイダを使ったフォールバックを適用しました。メインのAIが一時的な障害や利用上限に達した場合でも、予備経路へ切り替えて確認と防御を継続します。各経路は同じ分離原則に従い、非公開のシステムプロンプトを共有しません。

すべてのAI経路が利用できない場合は、疑わしい入力を本体へ通さず、安全側の固定応答へ切り替えます。可用性を優先してシステムプロンプトを持つ本体へそのまま流すことはありません。

検証について

言い換え・翻訳・物語形式・JSON化・ロールプレイ・複数ターンの会話を組み合わせたテストを実施しました。軽量な一次検知では、ランダムに構成した抽出要求 3,000 件のうち 2,934 件を候補として検知し、検知率は 97.8% でした。同じ条件で作成した通常会話 3,000 件は、すべて通常経路として扱われています。

固定した未使用テストセットでは、抽出要求 24 件中 23 件を検知し、通常会話 24 件中 22 件を通常会話として通過させました。また、ニュース記事の引用、セキュリティ対策の相談、自分で作成した設定文の添削などを含む通常会話中心の追加テスト 2,500 件では、一次検知の誤検知は 0 件でした。

これらの数値は、最終的な拒否率ではなく、本体へ直接渡す前に追加確認へ回せた割合です。テストケースに対する結果であり、完全な安全性を保証するものではありません。今後も見逃しと誤検知の両方を検証しながら、無料で自然な会話を続けられることとの両立を目指して改善を続けます。

加賀AIチャットを大幅にアップデートしました。今回の目玉は、写真を見せながら話せる画像対応と、会話の流れに合わせて最新情報を調べられる検索機能です。

写真を見せて、そのまま相談

カメラ撮影、写真フォルダからの選択、コピー＆ペーストで、画像をそのまま加賀へ送れるようになりました。PNG・JPEG・WebP・HEICなどに対応しています。

問題集、本棚、製品、画面のスクリーンショットなどを送って、その内容について会話できます。画像を送ったあとの「二番目の数字は？」「この本はいくら？」のような続きの質問にも、できるだけ流れを踏まえて答えます。

通常利用しているAIが混雑・制限中の場合にも、画像会話そのものが止まりにくいよう、画像を扱える予備のAI経路も用意しました。

必要なときだけ、最新情報を確認

ニュース、現在の価格、最近の出来事など、確認が必要な話題では、加賀が会話の中で判断して検索します。検索時は、まず「少し確認してくるね」と加賀が伝え、調べ終えてから回答を続ける二段階の会話にしています。

回答内には参考にしたページを表示し、引用チップを押すと、検索結果一覧やサイトのトップページではなく、できるだけ該当の記事そのものを開けるよう改善しました。

価格を調べる場合も、一般的な価格戦略の記事へ逸れず、出版社・公式ストア・ISBNなどを手がかりに、新品価格と中古価格を区別して探すようにしています。

「ぼかして答える」だけでは足りないと考えました

これまでの加賀には、最新のニュースや価格のように知識が古くなりやすい話題で、断定を避けて答える仕組みがありました。古い知識をもっともらしく言い切らないための対策です。

一方で、「今どうなっているの？」と聞かれたときに、曖昧な返答で終わるだけでは、AIチャットとして十分に役に立てません。実装や運用をシンプルにするよりも、確認すべき情報を曖昧に埋めず、必要なときに確かめて答えられることを選びました。

そこで今回、検索基盤を会話フローへ統合し、加賀自身が検索の必要性を判断してから最新情報を確認する仕組みを実装しました。

勉強では「答え」だけで終わらせない

大学受験などの問題では、答えや途中式だけでなく、なぜその解法を選ぶのか、どの数値や条件に着目するのか、類題ではどう考えればよいのかまで説明する方針に調整しました。

疲れた話やただ話を聞いてほしいときは、答えを急がず、加賀お姉ちゃんとして寄り添う。勉強・調べもの・雑談それぞれで、返し方を切り替えます。

加賀に覚えてほしいことを、もっと扱いやすく

「加賀に覚えてほしいこと」は、ひとつの長いメモにまとめる方式から、しおりのように一件ずつ保存できる形へ変更しました。呼ばれ方や話し方の好みを小分けに書けて、不要になったものだけ削除できます。

履歴タイトルの生成も、会話用の高品質なAIだけに負担を寄せず、用途に合った高速なAIを使い分ける構成に見直しています。

会話を止めにくくするための仕組み

加賀の裏側では、会話生成・画像理解・最新情報の検索・会話文脈の保持・利用量の制御といった役割ごとに、複数のAI、検索、エッジ基盤を組み合わせています。

特定のサービスや単一モデルだけに依存せず、混雑、利用制限、画像を含む相談、最新情報の確認といった状況に応じて、利用可能な経路と得意な処理を選べる多層的な構成にしました。

目指しているのは、ただ返事を返すだけのチャットではなく、話したい内容に応じて、できる限り最適な手段で会話を続けられるAIです。

無料で使いやすいことと、必要なときにちゃんと頼れることの両方を大切に、これからも加賀を育てていきます。

加賀（AIチャット）の裏側を大きく見直しました。これまでどおり無料で使えます。

多段階バックアップ

メインのAIが忙しい・1日の上限に達したとき、すぐ止まらないようにしました。

• まずメインのAIで応答する
• だめなら、品質の高いバックアップAIへ自動で切り替え
• それでもだめなら、最後の予備へつなぐ

切り替えは裏側で行い、会話の途中で「別のサービスに移ってください」とは言いません。順番は「品質が良いもの優先」です。

安定して会話できるものだけ残した

実際に何度もテストして、返答が空になる・ルールを無視しやすい・思考メモが本文に混ざるなど不安定だったものは外しました。残しているのは、会話の質と安定のバランスが取れたものだけです。

話し方・受け止め方のルールを強化

• 「消えたい」「疲れた」などの重い話のとき、無理に励ましたり「休んで」と指示したりせず、「ここにいるよ」という受け止め方に寄せました
• テキストチャットなのに「そばにいる」など、対面みたいな言い方は減らす方向に直しました
• 「当然だよ」「普通だよ」のように努力を軽くする返しも、出にくくしています

上限まわりも見直し

1日の上限に達したAIは、翌日までその枠を飛ばして次のバックアップへ回すようにしました。短い待ち時間で同じところを何度も叩いてしまう無駄を減らしています。

まだ改善中です

完璧ではありません。変な返しや気になるところがあれば、教えてもらえると助かります。