Folgen

  • 株式会社ずんだもん技術室AI放送局 podcast 20250708
    Jul 7 2025
    関連リンク Mercury: Ultra-Fast Language Models Based on Diffusion 「Mercury」は、拡散モデルという新しい技術を取り入れた、次世代の大規模言語モデル(LLM)です。これまでのLLMは一つずつ単語やコードを生成していましたが、Mercuryは複数の単語やコードの断片を同時に予測して生成できる点が画期的です。これにより、非常に高速な動作が可能になりました。これは、LLMの基盤技術であるTransformerアーキテクチャを使いながら、同時に複数の要素を予測できるように学習させる新しいアプローチで実現されています。 特に注目されているのは、プログラミングコードの生成に特化した「Mercury Coder」というモデルです。このモデルには「Mini」と「Small」の2つのサイズがあります。独立した評価機関によるテストでは、Mercury Coder Miniが1秒あたり1109トークン、Mercury Coder Smallが1秒あたり737トークンという驚異的な処理速度を記録しました。これは、現在速度に特化した最先端のLLMと比較しても、平均で最大10倍も高速でありながら、生成されるコードの品質は同等レベルを保っていることを示しています。 さらに、実際の開発者が利用する評価プラットフォーム「Copilot Arena」では、Mercury Coderは品質面で全モデル中2位にランクインし、速度においては全モデルの中で最速を記録しました。これは、論文上の数値だけでなく、実際の開発現場でもその優れた性能が認められていることを意味します。 開発元のInception Labsは、この「Mercury Coder」を外部サービスから利用できるパブリックAPIと、無料で試せるプレイグラウンドも公開しています。新人エンジニアの皆さんにとって、日々のコーディング作業を劇的に効率化し、AIを活用した開発のスピードを飛躍的に向上させる可能性を秘めた、まさに画期的な技術の登場と言えるでしょう。この超高速LLMの登場は、AI開発の未来を大きく変える「ブレイクスルー」となるでしょう。 引用元: https://arxiv.org/abs/2506.17298 LLM Inference Benchmarking: Performance Tuning with TensorRT-LLM 大規模言語モデル(LLM)を実際に使う際、その「推論性能」はとても重要です。どれだけ速く、たくさんのユーザーのリクエストを処理できるかが、ユーザー体験やサービスの効率を大きく左右します。この記事では、NVIDIAが提供するオープンソースのAI推論エンジン「TensorRT-LLM」を使って、LLMの性能を最大限に引き出すためのベンチマークとチューニング方法を、新人エンジニアにも分かりやすく解説しています。 まず、LLMの性能を測るためのツール「trtllm-bench」の使い方が紹介されています。このツールを使うことで、実際にLLMを動かすことなく、モデルの性能を簡単に測定・分析できます。ベンチマークを行うには、GPU環境の準備と、テスト用のデータセットを用意します。データセットは、質問とそれに対する期待される回答の長さなどを指定して作成します。 ベンチマークを実行すると、様々な性能指標が得られます。特に注目すべきは、「Request Throughput(1秒あたりのリクエスト処理数)」、「Total Output Throughput(1秒あたりの出力トークン数)」、そしてユーザー体験に直結する「Average time-to-first-token [TTFT](最初のトークンが出るまでの時間)」や「Average time-per-output-token [TPOT](トークンごとの生成時間)」です。これらの指標を分析し、アプリケーションの目的に合わせて最適なバランスを見つけることが、性能チューニングの鍵となります。例えば、ユーザーへの応答速度を重視するなら「Per User Output Speed」という指標を最大化するように調整します。 記事では、データの精度を少し落とす代わりに処理を高速化する「FP8量子化」されたモデルと、標準の「FP16」モデルを比較し、FP8モデルがより多くの同時ユーザーを処理できる例を示しています。このように、trtllm-benchを使えば、さまざまな設定を試して、どの設定が一番効率的かをグラフで視覚的に確認できます。 最適な設定が見つかったら、それを「trtllm-serve」というツールを使って、LLMを動かすサーバーに適用します。trtllm-serveはOpenAI互換のAPIを提供するため、チューニングされたLLMをアプリケーションから簡単に呼び出して利用...
    Mehr anzeigen Weniger anzeigen
    Weniger als 1 Minute
  • マジカルラブリー☆つむぎのピュアピュアA.I.放送局 podcast 20250707
    Jul 6 2025
    関連リンク Genspark、ノーコードAIエージェント「Super Agent」にGPT-4.1とOpenAI Realtime APIを搭載 AI技術は日々進化しており、私たちエンジニアの仕事のやり方も大きく変わりつつあります。今回ご紹介するのは、AIスタートアップのGensparkが開発した画期的なAIエージェント「Super Agent」です。この「Super Agent」は、OpenAIの最新AIモデル「GPT-4.1」と、リアルタイムなやり取りを可能にする「OpenAI Realtime API」という、OpenAIの最先端技術を搭載して公開されました。 「Super Agent」の最大の特徴は、その名の通り「ノーコード」、つまりプログラミングの知識がなくても誰でも簡単にAIを使いこなせる点です。文章で指示を出すだけで、AIが自律的に動いて、これまで人が手間をかけていた様々なタスクを自動で処理してくれます。例えば、情報収集、データの整理、レポート作成、さらには電話をかけるといった、一連の複雑な業務プロセス全体を、AIが連携して実行してくれるのです。これは、まるであなたの仕事をサポートしてくれる、非常に賢い「AIの代理人」を手に入れるようなものです。 このAIエージェントの賢さの秘密は、裏側で9種類もの大規模言語モデル(LLM)と80種類以上のツールを組み合わせて利用していることにあります。AIは、指示されたタスクの内容に応じて、最適な大規模言語モデルやツールを自動的に選び出し、それらを連携させて処理を進めます。これにより、複雑な問題も効率的に解決できるよう設計されています。特に、中核を担う「GPT-4.1」は、非常に長い指示や膨大な量の情報を一度に理解し、記憶しながら作業を進めることができるため、多岐にわたるリサーチや、構造化された精度の高いアウトプットが期待できます。また、OpenAIの画像生成モデル「GPT-image-1」も利用されており、必要に応じて画像を生成する能力も持っています。 具体的な活用例として紹介されているのが「Call For Me」機能です。これは、ユーザーに代わってAIが自動で電話をかけ、まるで人間が話すように会話を進めてくれるというものです。このように、「Super Agent」は単に情報を生成するだけでなく、現実世界での具体的な行動までAIが行う未来を見せてくれます。 GensparkはOpenAIと密接に連携しており、OpenAIの専門家からベストプラクティス(一番良いやり方)やワークフローの調整、AIモデルの性能を最大限に引き出すためのアドバイスを受けてきたとのことです。この協力関係が、「Super Agent」の素早い開発とリリースに大きく貢献しています。 このようなAIエージェントの進化は、私たちエンジニアが日常業務から解放され、より創造的で戦略的な仕事に集中できるようになる可能性を秘めています。新人エンジニアの皆さんにとっても、AI技術がどのように進化し、どのような新しいサービスを生み出しているのかを知る良い機会になるでしょう。’ 引用元: https://codezine.jp/article/detail/21843 Agentic coding革命が “成った” 世界で…… AI技術の進化により、ソフトウェア開発に大きな変化が訪れています。この記事では、「Agentic coding(エージェンティック・コーディング)」、特に「vibe coding(バイブ・コーディング)」と呼ばれる新しい開発スタイルについて解説しています。vibe codingとは、自然言語でAIの「コーディングエージェント」に指示を出し、それを使ってソフトウェアを開発していく方法のことです。 筆者によると、この変化はすでに「革命」として実現しており、過去1ヶ月間では仕事で作成するコードの約8割がAIエージェントによるものだそうです。この割合は今後さらに増え、1年以内には9割を超えるだろうと予測されています。AIエージェントの活用によって、コードを「生産」するスピードがこれまでの数倍になり、これまで時間やコストの制約で「やらない」と判断されていたようなことも「やる」という選択肢が生まれるようになりました。これは、開発の「量」が「質」に転化するような大きな変化です。 この革命により、ソフトウェアエンジニアに求められるスキルも大きく変わってきています。例えば、AIエージェントは大量のコードを書くのが得意なため、...
    Mehr anzeigen Weniger anzeigen
    Weniger als 1 Minute
  • 私立ずんだもん女学園放送部 podcast 20250704
    Jul 3 2025
    関連リンク Claude CodeではじめるAgentic Coding入門 この記事では、AIが自律的にプログラミングを行う新しい開発手法「Agentic Coding(エージェンティック・コーディング)」について、その概念から具体的なツールの利用事例、そしてそこから得られた学びまでを、新人エンジニアにも分かりやすく解説しています。 Agentic Codingとは? AIエージェントが、人間から与えられた抽象的な指示(プロンプト)を基に、自分で計画を立て、コードを書き、テストし、結果を評価して修正するという一連の作業を「自律的に」進めるコーディングスタイルです。人間は、AIに対して大まかな方向性を示す「総司令官」のような役割を担います。 Vibe Codingとの違い これまでの「Vibe Coding(バイブ・コーディング)」は、人間が自然言語でAIに具体的な指示を出し、AIが生成したコードを人間が確認・修正するという、人間が「副操縦士」として逐一介入するスタイルでした。Agentic Codingは、この「人間による都度の指示」を最小限にし、AIの自律性を高めたものです。ただし、Agentic Codingの初期段階でAIに作業を慣れさせる「手懐け」のフェーズでは、Vibe Codingのように人間が細かく指示を出す場面もあります。 Claude Codeについて 「Claude Code」は、このAgentic Codingを実現するAIエージェント型のコーディング支援ツールです。ターミナル上で動作するCLIツールであるため、様々な開発環境で利用しやすいのが特徴です。最近では、開発効率を高めるIDE(統合開発環境)との統合も進んでおり、IntelliJのようなツールでも快適に使えるようになりました。使い放題の定額プラン「Claude Max」の登場により、利用者がより積極的にAIを活用できるようになっています。 実務から学んだこと 実際に業務でClaude Codeを使ってみて、効果的にAIを活用するための重要なポイントが見えてきました。 探索空間を絞る: AIに任せる作業範囲を具体的に限定することで、作業の精度が高まります。特に、同じような修正を大量に行う「横展開」の作業では、AIのスピードが大きな助けになります。Plan Modeの活用: AIにまず作業の計画を立てさせ、人間がその計画をチェック・修正することで、意図しない方向に進むのを防ぎ、より良い解決策に繋がります。ドキュメントの整備: コードの仕様やプロジェクトのルールなどを詳しくドキュメント化しておくことで、AIがそれらを学習し、より的確なコーディングができるようになります。MCPサーバーの活用: AIがコードを探索する際に、Language Serverのような高速なツール(MCPサーバー)を利用させることで、効率が向上し、無駄なコストを抑えられます。「手懐け」の重要性: AIが作業に慣れて軌道に乗るまでは、最初の数回は人間がAIの動きを注意深く見守り、適度に指示を与えて調整することが大切です。 AI駆動開発の未来 AIがすべてのプログラミング作業を代替するわけではなく、人間がシステムの設計や要件定義、そしてAIによる「横展開」が難しい複雑な部分を担当し、AIは定型的な作業や大規模な修正を効率的に行う、という役割分担が重要です。これは「Agentic Engineering(エージェンティック・エンジニアリング)」という考え方に通じます。AIの性能は今後も劇的に向上しますが、現時点ではAIに任せられる部分をうまく見極めることが、現実的なAI活用への第一歩となるでしょう。 引用元: https://buildersbox.corp-sansan.com/entry/2025/07/03/142500 Rubyで始めるAIエージェント入門 近年、「AIエージェント」という言葉が急速に注目を集めています。これは、単に利用者の関心が高まっているだけでなく、サービスを提供する側にとっても非常に重要になってきています。主要なベンダーがAIエージェントを実装するための技術的なツール(SDKやAPI)を次々と提供しており、エンジニアとしてAIエージェントの仕組みを理解し、自分で機能を作れるようになることが重要だと筆者は語ります。 AIエージェントにはまだ厳密な定義はありませんが、この記事では「大規模言語モデル(LLM)と外部のツール群を組み合わせ、目標達成まで自律的に複数のタスクを実行する仕組み」と定義しています。これは、AIが...
    Mehr anzeigen Weniger anzeigen
    Weniger als 1 Minute
  • 株式会社ずんだもん技術室AI放送局 podcast 20250703
    Jul 2 2025
    関連リンク DeNA AI LinkがAIソフトウェアエンジニア『Devin』の日本展開を開始 株式会社ディー・エヌ・エー DeNA DeNAの子会社であるDeNA AI Linkが、革新的なAIソフトウェアエンジニア「Devin(デヴィン)」の日本展開を、開発元のCognition AI社との戦略的パートナーシップによって開始しました。この取り組みは、日本で課題となっているエンジニア不足の解消と、ソフトウェア開発現場の生産性向上を大きく進めることを目指しています。 Devinは、一般的なAIによるコード作成補助ツールとは一線を画し、ソフトウェア開発の全工程を自律的に実行できるのが最大の特徴です。具体的には、「どんなシステムを作るか(要件定義)」から「どう設計するか(設計)」、「実際にコードを書く(コーディング)」、「ちゃんと動くか確認する(テスト)」、そして「実際にサービスとして使えるようにする(デプロイ)」まで、AI自身が考えて一連のタスクをこなします。まるで、新しく優秀なエンジニアがチームに加わり、自律的にプロジェクトを進めてくれるようなイメージです。 Devinを導入することで、開発現場には大きな変化が期待されます。まず、エンジニア一人ひとりの生産性が劇的に向上し、同じ時間でより多くの機能を開発できるようになります。DeNA社内ではすでにDevinが先行導入されており、サービスの新規開発や技術調査、コード品質向上、日々の定型作業の自動化など、様々な場面で業務効率が「倍以上」になった実績が報告されています。例えば、数分の指示で高速にプロトタイプが完成したり、複雑なコードの仕様調査時間が大幅に削減されたりしています。 さらに、プログラミングの専門知識がない非エンジニアでも、Devinに分かりやすく指示を出すだけでコードを生成してもらえるようになります。これにより、アイデアをすぐに形にできる「モノづくり」の機会が広がり、開発の裾野が拡大することが期待されます。 Devinには、開発を強力にサポートする便利な機能が多数搭載されています。「Devin Wiki」は、既存のコードから自動でドキュメントや設計図を生成し、新規プロジェクトメンバーのオンボーディング(業務に慣れるための支援)を迅速にします。「Ask Devin」を使えば、コードについて質問すると対話形式で教えてくれるため、まるでベテランエンジニアに相談するかのようです。「Devin Playbook」は、繰り返しの開発タスク手順をテンプレートとして保存・共有できるため、誰でも同じ品質で作業を進められます。 DeNA AI Linkは、Devinの導入を検討している企業に対し、単にツールを導入するだけでなく、各企業のニーズに合わせた最適な活用方法のコンサルティングや、共同でのシステム開発、さらにはDevinを最大限に活用できるチーム作りまで、手厚くサポートしていくとのことです。 AIが単なるツールではなく、私たちと一緒に働く「パートナー」として開発を加速させる時代が到来しました。新人エンジニアの皆さんも、これからのAI技術の進化と、それによって変わる開発の常識にぜひ注目してみてください。 引用元: https://dena.com/jp/news/5269/ Context Engineering 新人エンジニアの皆さん、今回はAIエージェント開発で非常に重要な「Context Engineering(コンテキストエンジニアリング)」という技術について解説します。 LLM(大規模言語モデル)は、一度に処理できる情報量に限りがあります。これを「コンテキストウィンドウ」と呼び、パソコンの「RAM(メモリ)」のようなものです。AIエージェントは複雑なタスクをこなすために、対話やツールの使用を通じて多くの情報(コンテキスト)を生成し続けます。情報が多すぎると、コンテキストウィンドウの限界を超えたり、コストが増えたり、処理が遅くなったり、LLMの性能が落ちて誤った回答をする問題が生じます。 Context Engineeringは、このコンテキストウィンドウに「エージェントが次のステップで本当に必要とする、最適な情報だけ」を効率的に詰め込むための「技術と工夫」です。これにより、エージェントの性能を最大限に引き出し、安定した動作を実現します。主な戦略は以下の4つです。 Write (書き...
    Mehr anzeigen Weniger anzeigen
    Weniger als 1 Minute
  • マジカルラブリー☆つむぎのピュアピュアA.I.放送局 podcast 20250630
    Jun 29 2025
    関連リンク Google、Gemma 3nをリリース ―エッジデバイスでの動作効率が大幅アップ、フレキシブルなマルチモーダルモデル gihyo.jp Googleが、軽量AIモデル「Gemma」の最新版「Gemma 3n」をリリースしました。このモデルは、スマートフォンやIoT機器などのエッジデバイスで効率的に動作し、テキストだけでなく画像や音声、動画も理解できる「マルチモーダル」な点が大きな特徴です。新人エンジニアの皆さんにとって、これからのAI開発で注目すべき技術です。 Gemma 3nのすごいポイント 小さいデバイスでも高性能: Gemma 3nは、少ないメモリ(最小2GB~3GB)で、これまでより大きなAIモデル並みの性能を発揮できます。これは、特別な工夫「Per Layer Embeddings (PLE)」などにより、効率が大幅に上がったためです。スマホやスマート家電など、限られた性能のデバイスにAIを組み込むのがずっと簡単になります。 いろんな種類のデータを理解できる「マルチモーダル」: Gemma 3nは、文章だけでなく、写真、声、動画の内容も理解し、それらを使って応答できます。例えば、カメラで撮ったものについてAIに質問したり、音声指示で動画を操作したりと、より自然な形でAIとやり取りできるようになります。 用途に合わせて姿を変える「マトリョーシカ」構造: このモデルは「MatFormer(マットフォーマー)」という技術を使っています。これは、ロシアのマトリョーシカ人形のように、「大きなAIモデルの中に、小さなけれど完全に機能するAIモデルが複数入っている」イメージです。この柔軟な構造のおかげで、開発者はデバイスの性能や必要な精度に合わせて、AIの大きさを自由に選んだり、カスタムモデルを作ったりできるようになりました。これにより、AIを様々な環境に最適な形でデプロイできます。 性能と多言語対応の向上: 日本語を含む140言語のテキストと35言語のマルチモーダル(画像や音声なども含む)な理解をサポート。さらに、数学、コーディング、推論といった分野での能力も大幅に向上しており、幅広いタスクで高いパフォーマンスを見せます。特に画像認識能力が高まり、モバイルデバイスでの応答速度が従来モデルより1.5倍以上速くなりました。 実際に使ってみよう! Gemma 3nは、Hugging FaceやKaggleといったプラットフォームからダウンロードできるほか、Google AI Studioでも簡単に試せます。また、GoogleはGemma 3nを使った開発コンテスト「The Gemma 3n Impact Challenge」も開催しているので、ぜひ挑戦してみてください。 Gemma 3nは、AIが私たちの身近なエッジデバイスで、より賢く、スムーズに動く未来を切り開く技術です。これからのAI開発を学ぶ上で、この新しいモデルは間違いなく重要なキーワードとなるでしょう。 引用元: https://gihyo.jp/article/2025/06/google-gemma-3n 「先週何したっけ?」をゼロに:Obsidian + Claude Codeを業務アシスタントに この記事では、MarkdownエディタのObsidianと大規模言語モデル(LLM)であるClaude Codeを組み合わせ、日々の業務を効率化する「知的業務アシスタント」を構築する実用的な方法が紹介されています。従来のメモツールが単なる「記録」に留まっていたのに対し、AI(LLM)と連携することで、情報を「記録→検索→分析→洞察」する一連のワークフローが自動化される点が大きなポイントです。 このシステムを導入することで、特に以下の三つの大きなメリットが得られたと筆者は述べています。 過去の情報をすぐに引き出せる: Obsidianに記録された膨大なメモをClaude Codeが分析することで、「先週のあの会議で話した内容は?」といった具体的な質問に対し、関連するメモを要約して教えてくれます。これにより、複数のプロジェクトを同時に進める際などに起こりがちな「どこに情報を書いたか分からない」「キーワードが思い出せない」といった課題が解決し、必要な情報に素早くアクセスできるようになりました。週次振り返りが簡単に: 毎週の振り返り作業が格段に楽になります。過去1週間分のデイリーノートや会議の記録をClaudeに読み込ませるだけで、その週の作業内容や良かった点、改善すべき点、具体的なアクションを自動でまとめてくれます。...
    Mehr anzeigen Weniger anzeigen
    Weniger als 1 Minute
  • 私立ずんだもん女学園放送部 podcast 20250627
    Jun 26 2025
    関連リンク Gemini CLI : オープンソース AI エージェント Google Cloudが、開発者のための新しいAIツール「Gemini CLI」を発表しました。これは、皆さんが普段使っているコマンドライン(CLI、またはターミナルとも呼ばれます)から、Googleの強力なAI「Gemini」の機能を直接使えるようにする、画期的なツールです。 エンジニアにとって、コマンドラインは日々の作業に欠かせないツールですよね。Gemini CLIを使うと、AIがコーディングを支援してくれるだけでなく、文章の生成、問題解決のアイデア出し、詳しい情報のリサーチ、さらには日々のタスク管理まで、幅広い作業を手助けしてくれます。まるで、ターミナルの中に賢いAIアシスタントがいるようなイメージです。 特に注目すべきは、GoogleのAIコーディングアシスタント「Gemini Code Assist」と同じ技術を共有している点です。これにより、ターミナルだけでなく、皆さんが使っている開発環境(例えばVS Code)でも、AIがコードの作成や修正、デバッグなどを手伝ってくれるようになります。 個人で開発を進めている皆さんにも嬉しい無料利用枠が用意されており、高機能なGemini 2.5 Proモデルを、1日に最大1,000回、1分間に60回まで無料で利用できます。これだけあれば、ほとんどの個人開発者は制限を気にせずAIを活用できるでしょう。 また、Gemini CLIは完全にオープンソース(Apache 2.0ライセンス)として公開されています。これは、世界中のエンジニアが自由にコードの中身を確認したり、新しい機能の提案をしたり、一緒にツールを改善したりできることを意味します。Google検索と連携してAIが最新のウェブ情報を参照したり、独自のAIへの指示(プロンプト)を設定して特定の作業に特化させたりすることも可能です。さらに、スクリプトに組み込んで、繰り返し行うタスクをAIに自動で処理させることもできるため、日々の開発ワークフローを大きく効率化できる可能性があります。 Gemini CLIは、これからの開発者の働き方を大きく変える可能性を秘めた、強力で開かれたツールです。インストールも簡単で、すぐに使い始められますので、ぜひ一度試してみて、皆さんの開発体験をアップグレードしてみてください。 引用元: https://cloud.google.com/blog/ja/topics/developers-practitioners/introducing-gemini-cli/ Claude Codeを使い倒す方法 AIアシスタント「Claude Code」(大規模言語モデルを活用した開発ツール)を最大限に活用するための、実践的なタスク管理術が解説されています。せっかく有料プランを契約しても、「どのようなタスクを任せればいいか分からない」「AIが作ったコードのレビューが大変で、結局自分が作業の遅れの原因(ボトルネック)になってしまう」といった悩みは、多くの新人エンジニアにも共通するかもしれません。 この記事では、この課題を解決するため、タスクを「その仕事が事業にどれだけ重要か(ビジネス価値)」と「自分がどれだけ深く関わる必要があるか(自分の関与度)」の2つの軸で整理する「4象限戦略」を提案しています。 具体的には、以下の4つの象限に分けてAIアシスタントとの関わり方を変えます。 第1象限:事業価値が高く、自分が深く関わる「コア機能開発」 プロダクトの競争力に直結する重要な機能開発や設計がここにあたります。AIはあなたの「ペアプログラミングのパートナー」や「設計の壁打ち相手」として活用します。実装はAIに任せつつも、レビューは特に念入りに行い、あなたの設計力や問題解決能力を高めるために使います。 第2象限:事業価値が高く、ある程度任せられる「共同開発タスク」 既存機能の拡張や、緊急ではないけれど重要なバグ修正などが該当します。AIには明確な仕様を伝えて実装を任せ、進捗を定期的に確認し、最終レビューを行います。あなたが第1象限の重要なタスクに取り組んでいる間に、AIが並行してこれらのタスクを進めてくれるイメージです。 第3象限:開発効率化のためで、完全に任せられる「自動化タスク」 テストコードの追加、開発環境の自動化(CI/CDの改善)、定型的なリファクタリング、ドキュメント生成など、AIに「丸投げ」できるタスクです。...
    Mehr anzeigen Weniger anzeigen
    Weniger als 1 Minute