StableDiffusion XL（以下SDXL）をUM790 Proに導入した。自分のイメージ通りの絵を描きたいと思ったからだ。なんとかSDXLの導入まではしたものの、イメージ通りの絵を描くところまでには至っていない。とりあえずこの一週間で行った作業と、SDXLで描いた絵を…

1000ドルPC上で70億パラメタのLLMを動かしてみると、LLMは算数の問題が意外と得意ではないことが分かる。JanがダウンロードできるLLMには700億パラメタのLLMも複数あるので、700億パラメタにすると算数の問題が解けるようになるのか試してみた。また70億パラ…

StableDiffusionをUM790 Proで動かすことはできたのだが、全く活用できていなかった。イメージ通りの絵が描けないからだ。しかし偶然、あるWebサイトを見つけ、そこでなら自分のイメージに近い絵を描けることが分かった。 SDXL-Lightning- Text To Image 2-S…

年寄りくさいテーマであるが年金について書いてみたい。私は自分が年金を受取る年になり、その仕組をようやく理解した。自分が若い頃は年金について少し興味はあったとしても、深く考えたことはなかった。それはそうだ。会社では仕事が忙しいし、家に帰れば…

Janの中にLocal API Serverという機能があるのは知っていた。しかしどう使うのか、それを使うと何ができるのか分かっていなかった。YoutubeにあるJanの紹介動画を見ていたら、このLocal API Serverの使い方を説明していた。要するにPythonからWeb APIに従っ…

Janでは開発やサポート用のプラットホームとしてDiscordというコミュニケーションサービスを使っている。JanをAMDのGPUで動かせないものかと先日Discordを眺めていたら以下の情報を見つけた。 Discord 現在、マルチ GPU サポートは NVIDIA GPU でのみ利用可…

デスクトップで簡単に生成AIを動かせるソフトJanの紹介の続きである。もともとJanを導入したのは、生成AIとチャットでやり取りしながらコーディングなどの成果物が作れないかと思ったことがきっかけだった。一問一答ではなく、それまでの文脈を理解したやり…

UM790 Proは週末にシェアオフィスで使い、自宅ではMac miniで作業していた。しかし自宅でもUM790 Proを使いたいと思うようになった。UM790 Pro自体は軽いので持ち運べるのだが、ACアダプタは思いので持ち帰りたくない。幸いUM790 ProはUSB-CのPD（給電）に対…

デスクトップで簡単に生成AIを動かせるソフトJanの紹介の続きである。Janで使用できる生成AIの中にPythonのコーディングが得意そうなモデルがあったので試してみることにした。お題としては繰り返しとなって恐縮だが株価の成長率を求めるスクリプトを頼むこ…

1000ドルPC（MINISFORUM UM790 Pro）に生成AIをデスクトップで動かすソフトJanを導入した。今回はJanに用意されていない生成AIを追加導入する方法を紹介したい。 JanはGGUF形式に量子化されたモデルを使用するので、追加できる生成AIは量子化モデルが公開さ…

LLM（大規模言語モデル）をWindowsのデスクトップから簡単に使えるようにしてくれるソフトがJanである。GPUを使う場合はNVIDIAのGPUが前提となっているが、ない場合にはCPUで動かすことができる。 Janを導入することでローカルPCでも快適にLLMが使えるように…

UM790 ProのiGPU(Radeon 780M)でStableDiffusionを動かすことができた。今回導入した環境はWindows+DirectMLである。かなり苦労したので導入手順についてここにまとめておきたい。またUbuntu＋ROCｍ環境との性能比、Windows+CPU動作時の性能比もメモしておく…

昨日の朝のNHKのニュースで、イギリスの郵便局で起きた冤罪事件で被害者となった女性のインタビューを見た。郵便局に導入されていた会計システムの不具合で会計上の残高と実際の残高が一致しなくなり、横領の罪で起訴され実刑判決を受け、収監されてしまった…

MicrosoftのCopilotに対抗してGoogleが提供を始めたAIがGeminiである。最近公開されたばかりのため、まだ使ったことがない。折角Copilotを試したのでGeminiも同じお題で試してみた。 GeminiにRスクリプト作成を頼んでみた 先日の記事を読んでいただいた方は…