ローカルLLM系のAI関連記事の一覧と纏め。
この記事の主目的は、私が自分で書いたAI関連記事の索引用メモです。
結構見直す機会多かったりする。
各記事に導入手順とかいろいろ書いてますが、導入の際はAIに聞きながらやってください。
ちゃっぴーでもじぇみ子でも誰でもいいです。大差ない。
記事の一部分を適当にコピペして、AIにこれのやり方教えて、って言うと吉。
これ系は記事だけ見てやるのも、AIだけに聞いてやるのも非推奨。
両方揃うと割と楽にやれます。
【AI導入系の記事一覧】
１：ChatGPTを自宅PCに導入してSillyTavernと接続してきた 〇
２：KoboldAI UIを導入しました ×
３：AUTOMATIC1111(Stable Diffusion)入れて画像生成で遊んでみた △
４：SillyTavernを中継するFastAPIサーバーをuvicornで構築 〇
５：SillyTavernとAUTOMATIC1111を連携させて画像生成 △
６：cocoroAIをAPI接続してずんだもん(VOICEVOX)で自動読み上げ △
７：SillyTavernとLM Studioの設定やパラメータの個人的メモ 〇
８：OpenClawを導入してローカルLLM(LM Studio)に繋いでみた感想 ×
９：AI Agentを自作してみた
やってみて思った個人的な感想各種。
１で紹介してるLM Studioはかなりおすすめ。導入簡単で手軽に遊べる。
VLモデルをDLれば画像認識とかも簡単に出来る。結構凄い。
SillyTavernは導入や設定大変。慣れたらでいいと思う。出来ることが超増える。
増え過ぎるのが利点であり欠点です。7の設定説明でも機能の半分も紹介出来てない。
２のKoboldAI UIは不要だった。LM Studioがいいと思う。
３の画像生成は、今だとReforgeが主流？ この方面は私は詳しくないので不明。
４のuvicornというかFastAPIサーバーは凄いしおすすめだけど、おすすめできない。
だけどもし、AIに詳しくなりたいならやるといいと思う。勉強になる。
プログラム勉強したい人にもいいと思う。いろいろ作れるようになって人生変わった。
５と６の連携辺りはちょっと遊んですぐやらなくなった。７は個人用メモ、今でも見る。
８のOpenClowについては、どう書けばいいか、言語化が難しい。
ある程度使いこなすには前提条件が厳しいというか何というか。
これ使いこなせるレベルの人は、自作した方がいいと思う。
【AIをPCで動かすのに必要なスペック】
黒い砂漠とかの3Dゲーム遊べるPCあれば割と使えます。
必要なのはスペックというよりメモリ量。
最低RAM32GB以上ないと厳しいと思う。というか今64GBだけど足りてないと感じてます。
一方で、それ以外のスペックは適当で大丈夫。
メモリ量が多ければ、賢い子が使えます。
CPUは生成速度、GPUは推論速度と生成速度と賢さ全てに寄与します。
i5 10400 + RTX3050でもそこそこ余裕でした。
i5 14400 + RTX5060tiな現在はかなり快適にやれてます。
とりあえずそんな感じ、何か思いついたらいろいろ追記するかも。
