損保ジャパンが照会回答業務の効率化トライアル／オムロンが医療データ関連で売上高800億円超目標

LayerX AI・LLM Newsletter (2024/10/16-10/22) #269

今週の注目トピック

AI利活用最前線では、損害保険ジャパンによる、大規模言語モデルを活用した照会回答業務の効率化トライアル、などを紹介しています。

データ利活用最前線では、オムロンによる、医療データ関連の売上高800億円超目標、などを紹介しています。

今週のLayerXでは、バクラク請求書発行の「ポータルサイト機能」リリースなどを紹介しています。

Section1: AI利活用最前線

●テクノロジー

• 大規模言語モデルの推論能力比較実験：o1モデルは本当に賢いのか？

• OSSのOCRツール。低品質のPDFでも、構造を残したまま、文字起こし

• BAIRより1.1BのSLMを用いたエッジデバイス向けAIエージェントTinyAgentの提案

• Messy inbox problem (by a16z)

• Dify v0.10.0がリリースされました！ 

  • DIfyのファイルアップロード機能でPDFを読み込んでもらうとテキスト抽出の精度がめちゃ高い

  • Difyにファイルアップロード機能が遂に解禁‼️

  • LLMをつながずにPDFをアップロードして文字起こしをしてみたところ、綺麗に文字起こしできてしまった。（しかも精度が非常に高い）

  • Dify v0.10.1がリリースされました！

• Dify公式が公開したGoogle「NotebookLM」を完全再現したワークフローがすごい

• Difyのコードジェネレーター使ってみた！

• Difyならこういったレビュー収集ツールも一瞬で作れます

• LLMOpsを整理していて、特に評価周りについて詳しくまとめました

• AI Agentのチュートリアル集として良さげ

• AIサービスに関するSequiaの新しい論考記事。

  • アメリカ著名VCであるセコイア・キャピタルが語る「Software-as-a-ServiceからService-as-a-Softwareへの変化」がめちゃくちゃ面白い。

• IBMのgranite3-dense(2B/8B)ををColabでためしてみる

• 海外進出のリサーチから戦略の策定、ロードマップ策定するなら、今日出たばかりの「Felo ディープ推論モード」が熱い

  • PerplexityとGensparkを超えました。＼Felo AIの新機能『深度検索』／

  • 最近話題のネット検索に強い生成AI「Felo」が100件以上のソースを参照して検索する新機能『深度検索』を公開

  • 営業訪問前に企業情報ををググっているならFeloで「帝国データバンク風の調査レポートプロンプト」がオススメ！

• PDFやDOCXを瞬時にMarkdown化できる「Zerox」が登場！

• GPT-4o with canvasでできること7選を紹介

• 最近LLM-as-a-Judgeを本腰入れて作る機会が何度かあったので、そこでの学びをまとめました

• 松尾・岩澤研究室で行ったトークの動画を公開｜2024Fall 大規模言語モデル(LLM)講座 特別回：LLMの自己修正〜OpenAI o1 の関連研究〜

• OpenAIの「Swarm」でAIエージェントを開発してみた

• より良質な新しい研究アイディアを生み出すことに特化したAIエージェント、Novaが出た

• AI労働者時代、近づく　エージェントやデジタルクローン：日本経済新聞

• Difyの各機能の使い分け

• 生成AIの組織導入成功を阻む「4つの罠」とその対処法

• v0でPythonライブラリであるmatplotlib、pandas、numpyが使えるようになりました。

• The AI Scientist の解説ウェビナーの資料を公開

• 業界が騒然としたClaudeのパソコンを操作するComputer demoの類似品「Agent.exe」が公開された

• AIが進化する反面、AI投資のROIは低下してると

●テクノロジー（論文）

• o1モデルの得意なタスクは「明確なルールと手順がある」もの、逆に苦手なタスクは「複雑な動きと状態管理が必要」なものだと示唆されました

• LLMには自己の内部状態にアクセスし、それに基づいて情報を報告できる能力(内省能力)があるとの研究結果

• LLMに関して、事前学習時に全く学んでいない知識をSFTで教え込むのはなかなか難しく、また完全に教え込むために過学習してしまうと、もともと持っていた知識に関してもhallucinationを生むようになってしまうことを確認

• 計画のステップが増えるほど、LLMは最初の目標を見失っていく傾向がある

• nGPTはTransformerのパラメータ、内部状態を全てノルム1に正規化する

• MITから、「自然な対話を通じてユーザーの目標を推測する」という考え方のAIエージェントが提案された。

• 大規模な法的ケース検索（LCR）のための合成データを自動構築する手法を提案。オンラインの判例データを元にLLMでクエリを生成。

• Thought Preference Optimization (TPO)は、LLMの事後学習で、回答を生成する前に内部の思考過程を書き下した後に回答する

• Metaは他にも多くの研究成果を発表しているが、中でも人間に頼らずLLM自身が報酬モデルをトレーニングするための新手法「Self-Taught Evaluator」は注目

• o1モデルには「6つの思考パターン」があるとの報告

●提供ベンダー（OpenAI）

• o1を作ったNoam Brownの貴重な講義

• ChatGPT Plus、Enterprise、Team、Eduユーザーは、Windowsデスクトップアプリの初期バージョンのテストを開始可能

• OpenAI、ChatGPTの「Canvas」に待望の変更追跡機能を実装

• OpenAI o1の推論方法を分析した報告が出た。この研究ではo1の推論プロセスを観察し、それを6つのパターンに分類した

  • OpenAI o1の推論のスケール則について、開発者のブラウン氏は、「これが止まる兆候はない」と述べている

• 創造力でGPT-4が人間を超えている、というレポート

• OpenAIは人間が数時間から数日かかる複雑なエンジニアリングタスクを顧客指示で実行する製品開発中

• OpenAIのこの記事、LLMのパフォーマンスを最適化しようと思った際の標準的なアクションロードマップが載っていて大変参考になる

• OpenAI公式記事にある既存ワークフローや顧客接点にAIを活用する上で、AIが成功した場合と失敗した場合それぞれの経済的な得損を推定してブレークイーブンになる精度を計算する、という考え方

• OpenAI公式によるLLM精度改善に関するガイド

• 遂にOpenAIがホワイトハウスへ提案した「インフラは運命:米国における民主的AIへの投資の経済的リターン」公開！

●提供ベンダー（Microsoft）

• PTUの簡易的な計算式と参考値がドキュメントでアップデートされました

• Microsoftは、Dynamics 365プラットフォーム向けの一連のAIエージェントを発表し、Salesforceとの競争を激化

• MicrosoftがSalesforceと競合するようなAIエージェントを複数提供し始めた。

• マイクロソフトとOpenAI、AIツールの利用に1000万ドルを報道機関に提供

• マイクロソフトのナデラCEOまでも、AIの学習にかける計算量が直近は年率4.1倍で増えていることを話題に出した

●提供ベンダー（Anthropic）

• Anthropic社がえぐいアップデートを発表 、AIが人間のようにPCを操作可能に！！

  • 新Claude3.5モデル公式発表の日本語訳。今日から、開発者はAnthropic API、Amazon Bedrock、Google CloudのVertex AIを通じて、コンピューター使用ベータ版を活用できます

  • AI、ついにパソコンを使えるようになってしまう　Anthropic「Claude 3.5 Sonnet」新機能

  • PCを操作できる新しいClaudeモデルの発表

  • Anthropicが新機能「コンピュータ使用」を実装&新モデルを発表！

  • GUIからAI主導のPC操作への転換点となる。あらゆる意味でこれは産業革命への一歩となるだろう

  • LLMでPCを操作！？Claudeの新機能「computer use」を早速試してみた

  • Claude の computer use を試す

  • computer use モデルの開発

• Sonnetのコード生成性能が更に上昇するとのこと。

• ChatGPTとClaudeの売上構造が全く異なる。Claudeの方が開発者向けのサービスとなっている。

• Anthropic Computer Use Demo JP: Claude 3.5 Sonnetのコンピューター使用機能を体験しよう

• Anthropic Claude の Computer Use Demo を解剖する：仮想世界を操るAIエージェント

• Computer use デモ案30選

• Claude.aiの分析ツールが登場｜コードを作成して実行し、CSV ファイルからのデータデータを処理し、分析を実行、リアルタイムでデータの視覚化を作成できる

  • Claudeも計算をWeb要求後に内部でできるように

  • Claude にJavaScript実行機能が登場｜CSVファイルのデータ分析や可視化、複雑な数値計算などがリアルタイムで実行できます。

  • Claude、JavaScriptコードを書いて実行できる「分析ツール」を発表！

  • Claude「分析ツール」で、CSVファイルのデータ分析や可視化、複雑な数値計算などが可能に

  • ClaudeにてCode Interpreter的なファイル解析機能が誕生

●提供ベンダー（Perplexity）

• AI検索エンジンのPerplexityは80億ドルの評価額で約5億ドルの資金調達を検討

• Perplexityが社内情報検索にも対応開始。ホワイトカラーは社内と社外の両方のデータを参照して作業するため、大きなミッシングピース埋まる感じ。

  • PerplexityのPro Searchが強力進化！

• Perplexityも推論特化の検索機能をリリース

• Perplexityも検索に対して正式にReasoning機能が入りました。

• perplexityをChromeの検索エンジンに設定する方法

●提供ベンダー（Google）

• Google DeepMindから、RAGの推論スケーリング則が報告された

• GoogleAIスタジオはAPIキー入れない無料版は、モデルの学習に使用される仕様なのは意外と知られてない？

• Google Cloud で生成 AI を本番環境で活用するための starter pack と呼ばれるオーケストレーションのコードが公開された

• Google、Gemini Liveの日本語対応をついに発表

• Gemini APIでPythonコード生成、「最高のIT技術者」として回答してもらう

●提供ベンダー（Meta）

• Metaが「OpenAI o1」のように「答える前に考える」ことを助ける新しい学習手法「TPO」を発表

• Metaがテキストと音声を入出力可能な初のオープンソースマルチモーダル言語モデルである Meta Spirit LMを発表

  • Metaがテキストと音声の入出力を統合できる初のオープンソースマルチモーダル言語モデル「Meta Spirit LM」を発表

• Metaは他にも多くの研究成果を発表しているが、中でも人間に頼らずLLM自身が報酬モデルをトレーニングするための新手法「Self-Taught Evaluator」は注目

●提供ベンダー（Nvidia）

• NvidiaがしれっとオープンソースのLLMをリリース

●提供ベンダー（Salesforce）

• Salesforce、「Agentforce」の国内提供開始を発表

• Salesforce、「Salesforce LLM Open Connector」の国内提供開始を発表　目的に応じたあらゆるLLMとの連携が可能に

●提供ベンダー（Apple）

• Appleの最初のiOS 18.2ベータは、より多くのAI機能とChatGPT統合を追加する

●提供ベンダー（Cohere）

• トップクラスの言語モデルを手がける「Cohere」が主導している、119カ国の3,000人以上の独立した研究者が参加するオープンプロジェクト「Aya」の成果

●スタートアップ

• Algomatic｜生成AIスタートアップ社内での生成AI活用事例をnoteにしてみました

• 生成AIが株主総会の想定問答を作成するIR支援サービス─Exa Enterprise AIと宝印刷

• 国内市場シェア1位のexaBase 生成AIがGPT、Gemini、Claudeの日本リージョン対応を完了

• ビジネス情報収集SaaSのストックマーク、45億円をシリーズD調達——PEポラリスが出資

• カラクリ株式会社｜【10/25 セミナー】【銀行/証券/保険業界 限定ウェビナー】生成AI導入で訴訟リスク⁉金融機関が安全に生成AIを導入するため”絶対”知っておきたい「3つのこと」

• 株式会社Algomatic｜社内で v0 ハッカソンを開催しました！

• ブレインズテクノロジー｜エンタープライズサーチ「Neuron ES」の生成AI連携オプションを提供開始

• LLM利用時の情報漏洩やコストを抑えるガードレール機能「Dataiku LLMガード」─Dataiku

• 臨床検査伝票・医学文献から検査データを生成AIで抽出。シャトルブラザーズが提供開始

• AIで顧客価値向上に挑むパナソニック　ストックマークと共に独自LLMを開発

●コンサル・SIer

• 生成AI、産業効果21兆円　30年代、三菱総研が試算

• 日立製作所｜神奈川県警察と生成 AI 等の活用に向けた協定を締結

• NTTコム、独自LLMでDX支援　セールスフォースと連携

• IBMから日本語対応の商用可能なオープンソースの軽量LLM「GRANITE 3.0」がリリース

  • IBM、Granite 3.0を発表：ビジネスのために構築された高性能なAIモデル

• NTTデータ｜AIエージェントを活用した新たな生成AIサービスを提供開始

  • NTTデータ、AIエージェントで業務の抜本的な改革--第1弾は営業活動を支援

  • NTTデータ、自律型のAIエージェント開発　営業部門向け

• 野村総合研究所、オンライン商談ソリューション「econy」に生成AIを組み込み、コンプライアンスチェック機能を強化

  • 商談時の不適切な発言を検出する機能

    • （1）リアルタイム型NGワードアラート

    • （2）文脈を理解した同義発言の検出

  • 業務プロセスの抜け漏れを防止する機能

• NECの金融領域における生成AIの取り組み、「地域金融機関 生成AI共同研究会」とは

●利活用事例

• 日本銀行金融機構局｜金融機関における生成AIの利用状況とリスク管理

  • 生成AIの導入目的をみると、利用・試行中のほぼ全ての金融機関が「業務効率化／コスト削減」と回答している。また、主な利用分野としては、「文書の要約」、「文書の校正・添削・評価」、「翻訳」といった文書作成の補助や、「システム開発・運行管理」が挙げられている。

  • 生成AIの管理状況をみると、7割前後の先が、クラウドにおける自社専用区画を利用し、生成AIによる入力内容の再利用や生成物のインターネット流出を防ぐ仕組みを導入しているほか、入力データに制約を設けている。

• 金融機関の3割が生成AI利用、日銀が初調査　効率化目的

• 損害保険ジャパン｜大規模言語モデルを活用した照会回答業務の効率化トライアルの実施 

  • 損保ジャパン、保険の情報照会に生成AI　業務負担を軽減

  • ２０２４年１０月から、大規模言語モデル（LLM）を活用した照会回答業務支援システム「おしそん LLM（仮称）※１」のトライアル運用を開始しました。

  • 「おしそん LLM」は、損保ジャパンが保有する膨大な規定が記載されたマニュアルや Q&A データなどを学習し、照会内容に最適な回答案を自動生成するシステムです。

    • 本システムでは、生成 AI が作成した回答案およびその回答案の参照先文書が回答者の画面に表示されます。

  • 生成 AI が作成した回答案と参照先文書をもとに回答者が最終的な回答内容を作成することができるため、回答者は一から文章を作成する作業が不要となり、照会対応における業務時間が削減されます。

• トヨタシステムズと富士通、基幹システムのアップデート作業に生成AIを活用し、作業時間の50％削減を実現

• アステラス、論文学習した生成AI開発へ　創薬に応用

• 三井物産が事業開発にも応用、生成AI実装であの手・この手

Section2: データ利活用最前線

●人流データなど

• オムロン、医療データ関連の売上高800億円超目標

Section3: 今週のLayerX

●バクラク

• 国内外の請求書をAIが自動でデータ化。手入力の手間をなくし、コア業務に注力できるバックオフィス体制を構築

  • 外貨請求書の処理もできるようになった「バクラク請求書受取」をご活用いただいているPeach Aviation様のインタビューを公開しています

• バクラク請求書発行、取引先が専用ページで書類を受領できるポータルサイト機能をリリース。電子送付がより効率的に。

  • 書類を受け取る取引先さまが、自社の専用ページで書類を受領し確認できる「ポータルサイト機能」をリリースしました

• どんなシステムをつかってる？申請プロセス振り返りワークショップ

  • 経理業務の効率化を目指す方必見のワークショップを開催します

• バクラク経費精算、三菱UFJカード コーポレートの明細を自動で取り込めるように。証憑・稟議との紐づけや仕訳作成を効率化

●エンジニアリング

• 2024-10-22 機械学習勉強会

• 意外(？)と語られないGoのいいところ

• 【連載】冒険者の地図：ゲーム好きが興じてQAエンジニアに、第一線で奮闘するLayerX・松山晃大さんの成長の軌跡（前編）

  • LayerX バクラク事業部 QAエンジニア 松山のインタビューを「Hello, Quality World！」に掲載いただきました。

• インターンでDevSecOpsな脆弱性管理システムの開発に取り組みました！

• あなたのキャリアに影響を与えた本は何ですか？ 著名エンジニアの方々に聞いてみた【第五弾】

• Terraformで実現するHR Driven Provisioningとアクセス制御の自動化

●デザイン

• 【Designship2024出展】名刺交換×Techな体験ができるLayerXの "オリがみラボ" ブースができるまで

• 無いなら、作ろう。デザイナーの繋がる場をデザインする。 「コムデナ」ができるまで。

• デザインの力でみんなの仕事を拡張したい。自らも領域を拡張し続けるバクラクのコミュニケーションデザイナー（#LXエモカレ）

●採用

• 株式会社LayerX × Findy Freelance｜紹介事例インタビュー

●三井物産デジタル・アセットマネジメント（株）/ALTERNA（オルタナ）

• 三井物産デジタル・アセットマネジメントとYSKライフコンサルタンツ業務提携

現在、LayerXのAI・LLM事業部では、様々な大企業パートナーの皆様とLLMを活用した業務変革に取り組んでいます。金融領域に限らず、文書を扱う様々な領域でご一緒できればと考えています。

お気軽にこちらまでご連絡ください。

• エンタープライズ企業のドキュメントワークを効率化する生成AIプラットフォーム「Ai Workforce」

「LayerX」の公式ウェブサイトはこちら

Disclaimers

This newsletter is not financial advice. So do your own research and due diligence.

発行者：株式会社LayerX（東京都中央区築地1-13-1 銀座松竹スクエア 5階）

お問い合わせ先：llm-labs@layerx.co.jp