GPT4ALL+Jarvisで文章を手伝ってもらう設定。

Joplinのプラグイン、JarvisはJoplinにAI機能を追加するもので、以前から紹介している。

また、これまでに紹介したGPT4ALLと組み合わせることで無料で自分のPC上で扱うことができる。

前回はうまくいかなかったが、今回うまくいく方法を見つけたため、紹介しようと思う。

使用したモデル

こちらのXwin LM 13B v0.2 - GGUFを利用させてもらった。

結構しっかり日本語を話せる上に、Xwin LM 70BはGPT4より優秀と噂される優秀なモデルだったことから採用。

今回はq4モデルを利用させてもらったが、メモリとGPUもしくはCPUの性能に合わせて選んでほしい。

下記の設定ではq4はメモリを9gbほど利用していた(CPU利用時)。

やり方

以前紹介したものと同じように設定する。

Tool→Option→Jarvis→詳細設定からChat: System messageに以下のように設定する。

1
好奇心旺盛なユーザーと人工知能アシスタントjarvisとのチャットです。 アシスタントjarvisは、ユーザーの質問に対して、親切かつ詳細かつ丁寧に回答します。挨拶をしてください

その後、適当なページでロボットマークを押すと以下のようになる

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
Jarvis:こんにちは!どうぞ、あなたの質問やお手伝いが必要な場合があれば教えてください。私、jarvisは、あなたの相談に乗ってあらゆるトピックで助けてみせます。どんな話題でも大丈夫ですので、気持ちよくお話しいたします!

User: 富士山について多くの人が知りたいと思うことを10個挙げてください

Jarvis:富士山について知りたいと思われる10のポイントです。

1. 日本最高峰:富士山は、日本国内で最も標高が高い山であり、標高約3,776メートルになる。
2. 成因:富士山の形状や地質は、古代の火口付近におけるマグマの冷却・固結により形成されたという「玄武岩転移」説が有力である。
3. 自然保護区:1950年に国立公園として設立され、2013年に世界遺産(文化遺産)に登録された富士山は、自然を大切に保護する象徴的な存在である。
4. 登山ルート:山の中心部にある山頂までの最短道程は、約10〜12kmとなり、多くの登山者が訪れる。登山口は、西谷口(忍野八重嶺)、東南谷口(御殿場・須玉ルート)等、いくつか存在する。
5. 富士五湖:富士山に近接してあり、富士山の観光名所となっている5つの火山性湖が存在する。それは、富士川沿岸の西口の精進ヶ池、本宮町にある御運ばん(みうらび)、富士吉田市に位置した東礼子湖、山中湖、河口湖である。
6. 神妙な美術館:富士山の麓には、富士山を描いた数々の著名な画家の作品が集められている神奈川県立近代美術館(横浜市金沢区)や、埼玉県さいたま市にある浮世絵博物館等が存在する。
7. 観光名所:富士山周辺は多くの景勝地を持ち、例えば、富士宮市の富士急ハイランドや、静岡県富士市の吉田町にある宝永地蔵尊などが観光スポットとして知られています。
8. 富士山を眺める施設:山頂部や周辺では、富士宮市にあるふじさんパラダイス(フジサンシェルドーム)や、吉田町の富士山本宮浅間大社など、眺望がよく富士山を眺められる施設が存在します。
9. 伝説と信仰:富士山は、古代より神聖さをもって崇められており、日本全国で多くの民話や伝説に登場している。また、浅間大菩薫や、霊山富士本宮浅間神社などの神社仏閣が点在することでも知られています。
10. アクセス:最寄りの鉄道駅は、JR東海・御殿場線にある富士宮駅や富士山駅(廃止)などがあり、車で約20分程度の距離に存在しています。近くを通る高速道路は、東名高速道路や中央自動車道等が利用可能であり、富士山へ向かうアクセス性がよいと言えます。

ちなみに、筆者はちょっと困ったので一応言っておくが、最初にロボットマークを押すと以下のような文章がJoplinに生成される。

1
2
3
こんにちは!どうぞ、あなたの質問やお手伝いが必要な場合があれば教えてください。私、jarvisは、あなたの相談に乗ってあらゆるトピックで助けてみせます。どんな話題でも大丈夫ですので、気持ちよくお話しいたします!

User:

その後Userのところに質問したいことを書いてもう一度ロボットマークを押す。

つまりこう

1
2
3
こんにちは!どうぞ、あなたの質問やお手伝いが必要な場合があれば教えてください。私、jarvisは、あなたの相談に乗ってあらゆるトピックで助けてみせます。どんな話題でも大丈夫ですので、気持ちよくお話しいたします!

User: 富士山について多くの人が知りたいと思うことを10個挙げてください

とした結果得られたものが↑である。

考察

ここから先は考察的なところに入るので、これで終わってもよい。

今回Contextを書き換えることできちんとした日本語を出力することに成功した。

前回失敗時のものはこちらから確認してほしい。

Xwinというモデル自体がVicunaモデルとおなじようにして学習したものであることから今回Contextをこのような形にした理由とした。

Vicunaは学習する際

AssistantとUserにわかれて上記のような会話を行って学習したとされている。

その際利用していたContextを日本語訳すればいいのではと思い、使用することにした。

今回とくに重要だったのが、日本語訳したものだけでなく、その後に挨拶をしてくださいということだった。

挨拶の指示がないと、いきなり謎のおとぎ話を始めることや、意味不明なコードを出力するようになっていたため、今回は挨拶の指示を入れるようにした。これは今後のAi設定において有用そうなので共有しておく。

おそらくなのだが、挨拶より前の文のみだと指示がないため、その後に何を続けるべきなのか絞れず暴走したことを出力するのではないかと思う。

終わりに

人に指示を出すときには何をするべきなのか明文化することが大事なのはAiも人も変わらないんだなあと感じた。

研究室の一角 - にほんブログ村

Please enable / Bitte aktiviere JavaScript!
Veuillez activer / Por favor activa el Javascript![ ? ]
Licensed under CC BY-NC-SA 4.0
comments powered by Disqus
Hugo で構築されています。
テーマ StackJimmy によって設計されています。
Please enable / Bitte aktiviere JavaScript!
Veuillez activer / Por favor activa el Javascript![ ? ]