はてなブックマーク

Qwen3.5の中規模モデル(122B/35B/27B/9B)をコーディングエージェントで試してみます。 結論としては、122Bは使える、27Bはなんとか、35Bはストレスに耐えながら、9Bは全然むり、という感じ。 27Bは修正で関係ないところを壊す、35Bは修正として関係ない作業をする、9Bはコンパイル通るコードを書けなかった。 Qwen3.5シリーズの全体的に、395Bまで含め、難しいコードや問題特定は不得意だけど、サイズ相応にそこそこコーディングにも使える、というところ。 ただ、どのモデルもOpenCodeで問題なく動いていて、エージェント対応は完璧です。 コーディング以外だとどのモデルもかなり使えます。 あと、122Bは中規模というにはでかすぎんか？ってなりますが、メインメモリが多く積んであってがんばれば16GBメモリのゲーム用GPUで動きそうなので。 9Bはリリースは4Bなどと同

Qwen3.5の小規模モデル、4B / 2B / 0.8Bについて試してみます。 画像認識精度の高さもあって、かなり便利に使えそうです。 LM Studio CommunityのGGUFで、Q4_K_Mを試しています。0.8BについてはQ8_0。 画像エンコーダーの影響で2BはQ4_K_MとQ8_0のサイズがあまり変わらないので、Q8_0で試してもよかった。 (9Bに関しては別枠で) Thinkingのオフ 今回、コーディング以外ではThinkingをオフにしてます。 LM Studioで動かす場合だと、35Bと9BはThinkingのON/OFFに対応したモデルが出てるけど、それ以外はプロンプトテンプレートでenable_thinkingで切り替える必要があります。 現状で、0.8Bと2BはデフォルトでOFF、4BはデフォルトでONなので、4BでThinkingをOFFにするには次の指定

30BくらいまでのLLMはRTX 4060 Ti 16GBを使っていろいろ試すわけですが、ブラウザが4GBくらいGPUを使ったりしていて結構こまりものでした。 で、年末にふとRTX 3050を買っていて、LLM読み込みであふれた分が3050にまわるようにしていました。 VRAMちょい足しにRTX 3050 6GBを追加してみる - きしだのHatena けど、よく考えるとブラウザにRTX 4060 Tiを使わせる理由があまりないので、RTX 3050を使わせるといいのでは、と設定をしてみました。 ブラウザは常駐でそこまでGPU性能を求めないのに常にGPUメモリを使ってるので。 「システム > ディスプレイ > グラフィック」で、「アプリケーションのカスタム設定」に「デスクトップアプリの追加」でFirefox.exeを追加して、「GPUのユーザー設定」をRTX 3050にします。 RTX 3

コーディングエージェントはもはや当たり前になってきています。エージェントにコードを作らせるとき、ブレなくコードを生成できるプロンプトを作るのが大事です。 ここでプロンプトには、AGENT.mdなどのファイルも含みます。 コンテキストに乗るもの全てなので、実際にはコンテキストをちゃんと健全に保つことが大事ということになるのですが、入力プロンプトが中でも重要なのでここではプロンプトとしておきます。 最初に与える設計などの情報をちゃんと作るのはもちろんのこと、途中の指示も「この機能いれて」「やっぱこうしよう」「ここは不要だった」のように機能を入れたり削ったり変えたりしていると、エージェントだけではなく人間がコードを書くときにも、コードが汚れていきます。 エージェントの場合、そういった試行錯誤がコンテキストに残ると、生成の性能も悪くなります。 指示をするとき、的確に指示をすることが大切です。 そう

GLM-5が出ていたので、公式サイトで試してみました。 https://chat.z.ai/ ちょっと触った感じ、かなり賢く、複雑なコードも書け、日本語もうまく表現力が高いです。 これは大手の商用モデルに追いついてきているように思います。 公式ブログはこちら。 https://z.ai/blog/glm-5 問題は、モデルがオープン化されるのかどうか、というところ。 ウェイトも公開されています。744B-A40Bの模様(2:45追記) https://huggingface.co/zai-org/GLM-5 パストレーシング 「html+JSでパストレーシングを作って」で、エラーを一回出しただけで動かしてきました。すごい。 レンダリングできたあと、ズームなどの動きを調整してもらったのだけど、この指示への対応もOpusさんに指示するときのような安心感がありました。 Spring Bootでの

VRAM96GBが使える環境が増えてきていますね。そんな中、どのLLMを使うのがいいか考えてみます。 候補としては、gpt-oss-120b、GLM-4.6V、Qwen3-Coder-Nextがあります。 で、まあ、安定性のgpt-oss、汎用性のGLM、複雑なコードはQwen3、という感じで使いわけがいいんではないかと。 常用チャットは画像対応のGLM-4.6Vかな。 ※ Llama4 ScoutやQwen3-Nextもありますが、Llama4 Scoutは少し古くて性能が劣るのと、Qwen3-NextはQwen3-Coder-Nextとかぶるので挙げていません。 ※ LongCat-Flash-Liteをダウンロードしたまま忘れていたけど、軽くて良かった。しかしエージェントが動かない。 100B前後のLLM モデル サイズ アクティブ 画像 公開時期 gpt-oss-120b 120B

Qwen3-Coder-Nextが出ていますね。 Qwen3-Coder-Next: Pushing Small Hybrid Models on Agentic Coding Qwen3-Next 80B-A3Bをベースにしたコーディングモデルです。80Bで、Activeパラメータは3Bということで、かなり軽快に動きます。 しかし、元になるQwen3-Nextでは一発のコードはかけるものの やりとりすると弱く、あまりコードは書かせれないなと思っていたので、同じアーキテクチャならちょっと不安が。Qwen3-Nextは線形アテンションを取り入れてるけど、コーディングには向かないんじゃなかろうか、と思っていたので。 そして、その不安は現実に、ということをまとめます。失敗の質が悪い。アーキテクチャについては最後にまとめてます。 確かに、Qwen3-Nextに比べるとかなりコードが書けるようになっ

OracleがもっていたソートアルゴリズムのUS7680791B2特許が昨年11月28日で期限切れとなり開放されました。 US7680791B2 - Method for sorting data using common prefix bytes - Google Patents この記事で紹介されていた。 Expired Oracle Patent Opens Fast Sorting Algorithm to Open Source Databases - InfoQ この記事で、「特許が詳細なのでAIに入れたらすぐ実装できる」みたいなことを書いてあったので、試しにClaudeさんに渡してみたらすぐ実装してくれた。 一応ソースのリンクは貼っておいたけど、自分で試してみると楽しいと思う。あと、解説も軽く書いたけど、リンク貼ってAIさんに聞くほうがいいと思う。 アルゴリズムとしては次の3

量子化ではQ4_K_MとかQ4_K_Sとか種類があります。じゃあその違いって具体的になに？ということで見てみました。 ※ この記事からの抜粋 コンパイルエラーを元気に説明するLLMをファインチューンでつくる - ローカルファインチューン完全ガイド - - きしだのHatena たとえばLlama-3.2-1B-InstructのUnslothさんによるGGUFを見るとこんな感じで色々あります。 https://huggingface.co/unsloth/Llama-3.2-1B-Instruct-GGUF/tree/main. Q4は4bitで量子化、つまり値を4bitで表しますよということなのでそのままですね。Q3なら3bit、Q5なら5bit。 問題はK_Mの部分。 ここで、KはK meansという手法を使って量子化することを表します。 そしてMとかSはサイズです。Medium, S

Claude Codeの開発で2ヵ月コードを書かないエンジニアがいて、そこから6-12ヵ月でソフトウェアエンジニアリングが完全に自動化するというAnthropic CEOの発言が話題。 でもそれって限られた開発しか見てないように思うので、めんどうなコードばかり書くことになるだけでは、と思ったりした。 "Software Engineering Will Be Automatable in 12 Months," Anthropic CEO Dario Amodei predicts that AI models will be able to do 'most, maybe all' of what software engineers do end-to-end within 6 to 12 months, shifting engineers to editors. pic.twitt

Qwen3-TTSというテキストto音声モデルが出ていて、どうせ日本語はしゃべれんのだろう？って思ってたけど案外しゃべれるし、自分の音声のクローンもできるようなので、試してみました。 Qwen3-TTS Family is Now Open Sourced: Voice Design, Clone, and Generation! 手順などはGitHubに。 https://github.com/QwenLM/Qwen3-TTS 基本的にはpip installするだけ pip install -U qwen-tts GPU対応でPyTorchを使うなら--upgrade --force-reinstalを付けてインストールする必要があります。 https://pytorch.org/get-started/locally/ flash-attnを入れたほうがいいということだけど、Wind

「エンジニアはソフトウェアエンジニアだけじゃない」とか「Web系だけがソフトウェア開発じゃない」という話をよくみかけるけど、なんで「エンジニアといえばWeb系ソフトウェアエンジニア」な雰囲気が発生したのか。 まず、2000年。 ドットコムバブルというのがあり、ネット系企業が上場して株価があがって暴落してつぶれてというのがありました。 けど、そのころ「Web系」という存在がうまれたのですね。インターネットがそれなりに普及して、ブラウザもそれなりに使えるようになって、そこでWeb系のソフトウェア開発でメシを食うというのが始まりました。 次に2005年。Web 2.0ですね。 XMLHttpRequestを使って非同期通信を行ってページ遷移なしでの処理が行われ始めました。 日本でインターネット普及率70%。mixiが始まったりユーザーがネットに何かを投稿するということが生活に入ってきます。 そし

「オブジェクト指向」という言葉がネットに現れると、みんな思い思いのオブジェクト指向を語りだしますね。 このブログもそう。 そして、その「オブジェクト指向」が指すもの、みんな違います。 なんでかというと、「オブジェクト指向」って結局のところ「オブジェクト指向」とつけば売れた、マーケティング用の腐ったバズワードだからです。 90年代、ソフトウェア製品や開発手法に「オブジェクト指向」と付ければ売れ、つけなければ売れないという時期がありました。 構造化やデータベース設計などの手法をもっていた人たちも、そこにクラスと継承を載せてオブジェクト指向手法として売り出したり。 なので、そのころのソフトウェア開発をうまくやる仕組みは全部オブジェクト指向ということになってしまってます。 日本だと「オブジェクト指向でなぜつくるのか」が「難しいソフトウェア開発を楽にするための総合技術」としてアジャイルまで含め全部オ

どうやら、中小企業で今までなら予算の関係でシステム化を見送っていたところが、AIコーディングを使うプログラマに発注すると手ごろな金額で実現できるということで、仕事の量が増えてるらしい。 もちろん単価は低いわけだけど、裾野が広がれば上も伸びるはず。予算があるところも、今までその予算では実現できなかったものが可能になってシステム化が増えるということもありそう。 自分の個人的にも、いままで時間がかかって面倒そうなので二の足を踏んでいたものが思いついたらすぐ作れるようになって、結果的に自分でコードを書く量も増えている。 他の人も、オレオレ便利ツールが手元にたくさんできてるんじゃないかと思う。 今までならOSSにしてたかもしれないけど、秒でできてしまったものにOSS化の手間をかける気にならないということで、この話に続くけども。 AIのせいでAIの学習データがなくなってきている - きしだのHaten

これは「モダン・ソフトウェアエンジニアリング」の第1章のタイトルで「ソフトウェアエンジニアリングはプログラミングをはるかに超えた存在である」という言葉から始まっています。 そして、いま明確にその変化があらわれていると思います。 モダン・ソフトウェアエンジニアリング 作者:Ivar Jacobson,Harold “Bud" Lawson,Pan-Wei Ng,Paul E. McMahon,Michael Goedicke翔泳社Amazon その続きに書かれているとおり「小さなプログラムを開発することと、商用のプロダクトを開発することは、別物だったのである」ということはAIがコードを書くようになった昨今で大事な視点ですね。 「モダン・ソフトウェアエンジニアリング」の著者ヤコブソンは、オブジェクト指向全盛期にランボーやブーチと共にスリーアミーゴズと呼ばれた中心人物で、UMLの策定にも深くかか

なんかオブジェクト指向の話が盛り上がってるので、関連記事をまとめておきます。 まずはここから。12年たちました。 Java 8が出たすぐあとくらいの記事です。 Javaでラムダ式が入って、その後は継承のできないrecord型が入ったり、パターンマッチが入ったり、クラスの定義を書かなくてもHello worldが書けるようになったりと、非オブジェクト指向な機能も出そろってます。 だいたい同じ内容ですが、3年前。 今回の発端になったのは、過剰設計のコードがオブジェクト指向的に正しいみたいな話が出てきたからだと思うのだけど、過剰設計ということばでいろいろ議論されてるように、オブジェクト指向だとオブジェクト迷路ができがちというのは問題視されていたので、正しいというわけではないです。 で、なんでオブジェクト指向迷路ができるかというと、オブジェクト指向の本がアプリケーションを見据えずにモデリングの話を

コンパイルエラー、あまり読みたくないですね。説明してほしい。そして、できれば元気に説明してほしい。 もちろん、最近のAIを使えば解説してくれます。 でも、そういったAIには課金か大きいモデルを動かせるハードウェアが必要です。毎日何万回も出すコンパイルエラーをそのたびに課金していたら破産してしまいますね。大きいモデルを動かす環境を用意するのも大変です。 そこで、小さいサイズのLLMをファインチューンして、コンパイルエラー説明専用のLLMを作れば、手元のパソコンでいくらでもコンパイルエラーを説明してくれるはずです。 このブログはBuriKaigi 2026の登壇資料です。 BuriKaigi 2026 - connpass ファインチューンとは LLMというのは、仕組み的には文章の続きを出してくれる機械学習モデルです。 3年前だとまだファインチューンしてないモデルが公開されていたので、そのころ

AIはWikipediaやブログやStackOverflowやOSSのコードで学習してますね。 でもそういった学習材料が、AIのせいで新しく書かれなくなってきてます。 Wikipediaが書かれない まず、AIがいろいろ詳しく解説してくれるので、Wikipediaを見なくなりました。Google検索でWikipediaを出してくれるのでWikipediaのサイトに行かなくなったというのはありますが、AIでは事前学習の知識だけで書かれたものは情報の出所がわからず、Wikipediaを意識しなくなります。 また、今までだと何かについて知りたくてがんばって調べたら、それをどこかにまとめておきたくなるので、Wikipediaを更新したりしてました。けど、自分でがんばってないのでWikipediaを更新しようとは思わないですね。 結構名が通った人なのにWikipediaに項目がない、ということもよく

AIがバイナリを直接吐くのではないかとか、AIのための言語ができるのではないかという話の根底には、プログラミング言語は人間が扱いやすく機械が実現できるよう論理を表現するものでありソフトウェアの本体であるということが共有されてないのかなと思います。 AIがバイナリを直接吐くようにはならない - きしだのHatena AI専用のプログラミング言語は現れない - きしだのHatena AIがコードを書くようになるなら、AIだけに理解できる言語を作ればいい、のかな？ - きしだのHatena つまり、プログラミング言語で書かれたプログラムコードというのは、機械を動かすための中間表現ではなく、ソフトウェアの本体であるということです。 そこで表された論理的な意味表現を機械が実現できる形にするのがコンパイラやインタプリタやVMで、そこは置き換え可能です。 アプリケーションの意味表現が大事で、機械を介して

たびたび見かける「そのうちAIが直接バイナリを吐くようになるんでは」という話、原理的に難しいし、できるとしてもだれもやらないし、できるようになったとしてもだれも使わないので、今の仕組みのAIが直接バイナリを吐く未来は来ないと思います。 ここらへんも参照 AIがコードを書くようになるなら、AIだけに理解できる言語を作ればいい、のかな？ - きしだのHatena AI専用のプログラミング言語は現れない - きしだのHatena AIが読み書きするコードも読みやすいほうがいい(トランスフォーマの特性の考慮やリーダブルコードについて追記) - きしだのHatena プログラミング言語は人間が扱いやすく機械が実現できるよう論理を表現するものでありプログラムの本体 - きしだのHatena ※ LLMが生成したコードを内部でコンパイラを呼び出してバイナリにするというのは、例えばここにあるようなプログラ

Z.aiのGLM-4.7のコーディング性能が高くて、動かす環境さえあれば自宅でコーディングエージェントが動かせるようになるので素敵です。 日本語表現力も高いので、コーディング以外でも広く使えそう。 GLM-4.7は355Bでアクティブ32Bです。MITライセンスです。どこにもライセンスファイル見当たらないけど。 https://z.ai/blog/glm-4.7 なので、Q4_K_Mで216GB、MLX 4bitで198GBあるので、おうちで動かすとしたらMac Studio 256GB以上ということになり90万円からとなりますが、GLM-4.7-Airがそこそこの性能で出てくれれば35万円のEVO-X2でも動くということになり、期待が持てます。 ところで12月に300Bレベルのモデルが3つ立て続けに出ていました。速度こんな感じ。 モデル サイズ リリース日 プロンプト Thinking

Qwen-Imageは日本語のテキストが書けません。 ところで最近Nano Banana Proがかなりテキストを破綻なく書くようになっていて、どうやらこれは裏でテキストをレンダリングして読み込んでるようなので、同じことをQwen-Imageやったらどうかと試すと、結構うまくいきました。実際はQwen-Image-Editだけど。 ただ、毎回テキストの画像を用意するのは面倒なので、テキスト描画用のカスタムノードを作ってみたら便利だったので共有。 Text Renderer Nodeのインストール テキストを描画して画像化するカスタムノードを作ってます。 https://github.com/kishida/comfyui-text-renderer というかコードはほとんど全部Claude Sonnetに書いてもらってます。10文字くらいフォント拡張子を追加した。 git使える人はComf

Qwen-Image-Editを使ってたら、どうにもうまく画像編集してくれないなと思っていたのだけど、Q4_K_SをQ4_K_Mにしたら断然思い通りに生成してくれるようになりました。 ほとんど違いがないのにこれだけ挙動が変わるのかとビックリしたので、この量子化の違いはなんぞやということも含めてまとめてみました。 画像や動画の生成モデルは量子化の影響が出やすく、そしてVRAMを大幅にはみ出るサイズでも生成時間に影響がないので、メインメモリの許す大きいサイズを選ぶのがいいようです。 2枚入力時のプロンプト追従 Qwen-Image-Edit-2511で「pict1の男性をpict2の女性に入れ替える。」とやってみます。メガネをかけることがあったのでネガティブ側に「メガネ」をいれています。 まずQ8_0。たまに失敗はあるけど、だいたいうまくやってくれます。 生成時間は52秒 ところがQ4_K_S

動画生成のWanというのがいいというのは知ってたけど導入がめんどくさそうで試してなかったのを年末にGGUFで試してたのでまとめ。 生成結果 ということで、まずは14BのQ4_K_Mで試した動画を先に。 Wan 2.2で「the man drinking beer」を指定して3分くらいでこれ。ビールが減ってないけど。 1年半前のOpen Soraだと2時間半待ったものがこれ。ハードウェアが同じなのにすごい。 Open Soraを使っておうちのWindowsで動画生成する - きしだのHatena Google ColabのA100を使ってOpen Solaで2分で「japanese maiko is dancing」で生成したのがこれ。 それがWan 2.2ならおうちのRTX 4060 Ti 16GBで2分でこれです。 FramePackも5秒動画を30分で作ってくれてました。 少ないVRA

AIがコードを書くのでプログラマ(or エンジニア)が不要になるという話が出てくるようになりましたね。 けど、プログラマ不要論って、プログラミング言語が現れて以来、10年に1度くらいのペースで表れている話です。10年前の2015年あたりにはちょっと途切れていたというか限定的だったので、久しぶりに現れたプログラマ不要論にみんなビックリ、という状況なんじゃないでしょうか。 ここで「プログラミング言語が現れて以来」と書きましたが、最初のプログラマ不要論は、1960年ごろFORTRAN、COBOLという最初期のプログラミング言語が現れたときに言われたものです。1956年FORTRAN、1960年COBOLという感じで仕様書やマニュアルが書かれたみたいですね。ちなみにLISPが1960年3月、COBOLは1960年4月という感じらしい。 それ以前は直接数値コードを書いていたり、さすがにそれは大変とい

OpenCodeというオープンソースのコーディングエージェントから、GLM 4.7が無料で、しかもアカウント登録もなしで試せたので、やってみました。 コーディングエージェント、便利そうだけど課金がすごそうだし・・・と思ってた人も気軽に試せます。 https://opencode.ai/ インストール インストールはGitHubのほうにパッケージ管理ツールでのインストール方法が並んでるので、好きなものを。 # YOLO curl -fsSL https://opencode.ai/install | bash # Package managers npm i -g opencode-ai@latest # or bun/pnpm/yarn scoop bucket add extras; scoop install extras/opencode # Windows choco instal

久しぶりに、Railsについて「設定より規約だなぁ」という発言を目にして、「規約よりアノテーションがいいし、AIに不利」みたいなツッコミをしたわけです。 ということで、どのようにAIに不利かまとめてみます。 一応、いまのRailsについてはAIがかなり学習しているので、Opusなどではかなり的確に扱えているようです。 なので「AIに扱えるようにならない」という意味ではないです。 規約ベースのフレームワークとは ここでは例えばmodelフォルダの下にUserという名前のクラスを作るとusersというテーブルへのマッピングになる、というような規約の話です。 アノテーションベースであれば、Userというクラスに@Tableというアノテーションを付けるとuserというテーブルへのマッピングになります。ただ、ここでUserというクラスがuserというテーブルに対応するというところは規約ベースになって