Avatar
😀

Organizations

  • 📄論文情報

    🔑この論文のキーメッセージ

    • ….?

    🎓どういう問題に取り組んだのか

    • 一対比較によるフィードバックを用いたベイズ最適化のregret boundを解析した
    • この解析結果を元に新しいベイズ最適化のアルゴリズムを提案した

    🧑‍🎓その問題に取り組むことがなぜ重要なのか

    • 既存の解析論文では、ある定数がついていたが、この論文でこの定数を減らしても良い事を示した
    • 通常のベイズ最適化とは異なり、評価値が一対比較であるため、regret boundの解析が複雑である

    💡問題解決に向けたキーアイデアは何か

    • よく分からなかった
    • 理論的な事を理解するための知識が足りなすぎ

    👀新たに分かったことは何か

    • 何が分かれば分かるようになるのか分からない

    ❓疑問点は何か

    paper Created Fri, 03 Apr 2026 00:00:00 +0900
  • 📄論文情報

    🔑この論文のキーメッセージ

    • 様々な評価軸に重みを持たせることで、多様な価値観を考慮したLLMを作成することができる

    🎓どういう問題に取り組んだのか

    • 人間の多様な好みに合わせてLLMを最適化すること
      • LLMは与えられたコンテキストに合わせた文章を生成する
      • 生成した文章に対してd次元の報酬が与えられる
      • この報酬に対する重みを個人に最適化し、LLMの生成文章の条件付ける

    🧑‍🎓その問題に取り組むことがなぜ重要なのか

    • 個人の価値観に合わせた文章を生成する技術が求められている
    • 一方で、既存の学習手法は、一つの観点からの学習しかできずに、多様で複雑な人間の観点を反映することができない

    💡問題解決に向けたキーアイデアは何か

    • active learningベースの手法を提案した
    • フィードバックの形式は、一対比較になっている
    • クエリの選択方法としては、目的関数の期待値が最大になるものを用いている
      • この目的関数は、重みなどのパラメータを考慮した関数になっている
    • 重みの更新はベイズ推論により推定される
      • 報酬の差が最大になるように学習されているっぽい

    👀新たに分かったことは何か

    • 実験は人間の変わりにLLMを使用して評価している
    • 報酬関数は、様々な観点からの評価を行う既存の報酬モデルを使用している
      • 人間のプロファイルとして、重みを事前に決めておき、この重みで条件付けしたLLMにより文章を生成している
    • 最適化の効率が既存の手法よりも良い結果であった
      • win-rateも既存手法より良いので、改善方法として妥当であることが分かる

    ❓疑問点は何か

    • 良さそう。
    • 人間の報酬モデルは既知ではないから、実用性があまり無い気がする
    • 獲得関数の設計は参考になる
    paper Created Fri, 03 Apr 2026 00:00:00 +0900
  • マーブル館殺人事件を読んだ。 ヨルガオ殺人事件の続編で、三作品目の小説だ。# [copilot:gpt-4.1] Generating commit message…

    ヨルガオ殺人事件から数年立ち、イギリスに戻ってきた主人公がアティカス・ピュントシリーズの続編を担当するという場面から話が始まる。

    カササギ殺人事件とヨルガオ殺人事件はとても面白いから、期待が膨らんでいたが、期待通りのミステリだった。 いつも通りの小説内小説という形を取りつつ、その世界観が相互に関係しているという考えるだけでも混乱しそうな内容なのに、ここまでの完成度の作者の筆力は凄い。

    ヨルガオ殺人事件に隠された謎や、その裏で動く別の事件、そして小説内の謎など一冊でたくさんの要素が楽しめた。 これまで通りアナグラムがトリックに含まれているから、日本語で謎を解くことは難しいという点だけが悔まれる。 英語で読むしか無いのか??? 個人的には、主人公の前職周りの話が一番面白かった。 ここで、カササギの話が関わってくりとは予想外の展開だし、その先の展開も予想外で一気に読んでしまった。

    book Created Sat, 21 Mar 2026 00:00:00 +0900
  • 失われた貌を読んだ。 このミスの一位だったから気になって読んだ。

    山奥のある場所で、顔が潰され、手が切られるなどして身元を特定できなくなった遺体が発見された。 この殺人事件を担当することになった刑事の一週間を描く物語になっている。

    面白かったと思うけど、素直にそうとは言い切れない。 作中の謎や出来事が全て事件に関わっていくように繋がっていく話の流れは凄かった。 ミステリーとしての謎解きと警察としての捜査を上手く繋げられている点が上手だったと思う。 だけど、帯の推薦文が煽り過ぎだった。 期待値だけがはね上がり、この期待値をどこに落ち付かせれば良いのか。。となってしまった。

    book Created Tue, 24 Feb 2026 00:00:00 +0900
  • #+TITLE 魚が存在しない理由

    「魚が存在しない理由」を読んだ。 アメリカの生物学者で、スタンフォード大学初代学長のデイヴィッド・スター・ジョーダンと著者を巡る話だった。 タイトルが気になって手に取っり、生物学についての内容を期待していたが、良い意味で裏切られた。

    ジョーダンは、様々な新種の魚を大量に発見した優秀な生物学者であった。 そして、スタンフォードの学長に就任した後も、標本を作り続けた。 落雷により標本が燃えてしまっても、地震によりめちゃくちゃになっても。 著者は、何がジョーダンをここまで執着させたのかに興味を持ったことをきっかけに、彼の人生を調査してる。

    ほとんどが、ジョーダンと著者の人生で、魚類が存在しない理由については後半に少しだけ語られる。 この構成が見事だった。 前半まではジョーダンの功績が説明されるが、後半部分からその影の部分が語られる。 ジョーダンの死後に明らかになる、魚類という分類が恣意的に定義されていたという事実は、色々な事を考えさせられた。 悔しいことに、これが上手く自分の中で言語化できない。。。

    読む人によって感想が違う気がして、良い本だった。

    book Created Wed, 18 Feb 2026 00:00:00 +0900
  • まぐさ桶の犬を読んだ。 この本を読もうとしたきっかけは、このミスで5位にランクインしていたことだ。 本を読む前は知らなかったが、シリーズ物の最新作らしい。

    本屋件探偵の葉村晶が、近所の人の付き沿いを依頼される。 その人の親族である富豪から人探しを依頼される。 しかし、探す人の周囲の人間が、失踪していたり、不審な死を遂げていたりする所に気づく所から話が始まる。 本当に冒頭の文章では、主人公の葉村が死にかける所から始まる。

    謎が謎を呼ぶ展開で、読んでいて飽きなかった。 次々と表れる癖の強い人間達の裏事情が後半で暴露されたり、暴かれたりしていた。 人の名前や関係性を把握するのが大変だったけど、何となくの理解でガンガン読み進めた。

    それでも楽しめたのは、この本が持つ独特の雰囲気なのかもしれない。 主人公の葉村の皮肉っぽい視点や痛む体の描写が、何となく読みやすさに繋っているのかもしれない。 謎解きの間に、この描写があるから読めたのかも。

    book Created Thu, 12 Feb 2026 00:00:00 +0900
  • 📄論文情報

    🔑この論文のキーメッセージ

    • (1, 2文でまとめる)

    🎓どういう問題に取り組んだのか

    • Reward Guided Searchは、LLMが生成した複数の文章から報酬モデルの値を用いて文章を選択する手法である
    • この文章の選択に使用する報酬モデルの出力に一貫性を持たせることを目指す

    🧑‍🎓その問題に取り組むことがなぜ重要なのか

    • 報酬モデルは、文章の全体を評価するように学習される
    • そのため、文章の一部を評価する時に報酬の一貫性が無くなる課題がある
      • 特に、冗長な文章を高く評価する傾向がある
    • この報酬モデルを再学習するには計算コストが多くかかるため、既存のモデルを使用しつつ、報酬の計算を工夫することで、より良い文章の選択が可能になる

    💡問題解決に向けたキーアイデアは何か

    • スコアの計算時にscore consistencyの分析をしている
    • Score Consistencyの定義
      • 文章AとBにおける報酬値r(A)とr(B)がある時、AとBの部分文字列aとbにおける報酬r(a)とr(b)は、以下の関係が成立する
        • r(A)>r(B) -> r(a) > r(b)
      • RGSでは、新しいトークンを選択する時に、これまで生成された文章と新しいトークンを繋げた文章の報酬が最大になるように選択するため、重要な性質になる
      • この時、部分文字列を評価することになるため、文章の部分文字列の評価の一貫性が必要
    • 既存の報酬モデルは部分文字列の評価に一貫性が無いため、部分文字列を評価するためのデータセットを構築し、報酬モデルを学習した
    • 学習には、報酬モデルの分布の差のエントロピーを重みとして使用している

    👀新たに分かったことは何か

    • 文章全体を評価するように学習された報酬モデルは、Score Consistencyを満たさない

      • 報酬モデルの学習に使用するデータセットの部分文字列が、良いと評価された文章の方が高くなる割合で評価した

      • 5トークンで、57%くらいであり、50トークンまで増やすと60%まで上がる

      • 一方で、人間との評価の一致度は高い

      • 提案手法により学習した報酬モデルは、5トークンで55%、50トークンで65%まで改善した

    • ベンチマークにおける評価は、報酬の平均値や文章の多様性などで評価

      • 様々なチャンクで文章を区切る方法に提案手法により学習した報酬モデルを使用したっぽい
      • 報酬の値などのスコアを見ると、既存の手法を改善できていると言える

    ❓疑問点は何か

    • 着眼点が良いと思った
    • 報酬モデルの学習が必要になっているのはネックになっていないのか気になった。
    paper Created Thu, 05 Feb 2026 00:00:00 +0900
  • 「一九八四+四〇 ウイグル潜行」を読んだ。 中国のウイグル自治区からカザフスタン、日本に住むウイグルの人々を取材したルポだった。 最初に、ウイグル自治区を取材し、カザフスタンに出国、その後日本に帰国しウイグル人を取材していた。 取材の様子も十分な内容だったと思うけど、ウイグル自治区からカザフスタンに出国する際、中国当局に拘束された話が衝撃的だった。 長時間に及ぶ取り調べのなか、素性を調べ上げられた結果、しばらくの間中国への入国が禁じられていた。 現実にこういう話があるのは衝撃的だったし、どれくらい大変なのか全然想像できない。

    ウイグルとカザフスタンで、自由度が大きく違うなと感じた。 ウイグルの人に、宗教や収容施設の話を質問すると、「わからない」などの返答が多く返ってきた。 自治区内にも警察や監視カメラが多くあることに加え、撮影した写真を削除するように繰り返し注意されているのも目立った。 それに比べ、カザフスタンでは、取材相手が赤裸々に体験を語っていて、当局の監視もそこまで厳しくない様子だった。 自由度の違い以外にも、ウイグル自治区に住むカザフ人も収容所に入れられていたというのはびっくりだった。

    収容所はあるという事は事実っぽいが、これが悪であるかという議論についてはちょっとよく分からなくなってしまった。 人権侵害という面を切り取ってしまえば、そうなってしまうのだが、治安維持という面では必要っぽいように思える。 改めて視点が変わると、何もかもが変わるということは忘れないようにしたい。

    book Created Fri, 30 Jan 2026 00:00:00 +0900
  • カササギ殺人事件を読んだ。 とても満足。 上下巻のから構成されていて、それぞれの巻において絡み合う別の殺人事件が展開されていた。

    特に冒頭は「???」となるような書き出しで、読む本間違えたか?と思った。 読了した今、この冒頭は計算されていて、著者が意図した通りに感情を操られたような気分になる。 それぞれのミステリーのトリックについては満足で、段々と謎が解明されていく様子はページをめくる手が止められなかった。 上巻はカササギ殺人事件の様子が描かれており、下巻ではカササギ殺人事件を書いた人が殺されるミステリーだった。 カササギ殺人事件は、ある村にある屋敷で働く人と主が死ぬ事件を追い、後半では著者が残した謎を追う。

    下巻の後半に両方の事件のトリックが明かされた構成になっていた。 上巻の謎の種明かしはされずに、下巻で新しい謎の話が始まるから、下巻の序盤はげんなりした。 でも、下巻にさりげなく上巻の登場人物の名前を出しておくことで、ちゃんと思い出せるようになっていた気がする。 このお陰で、「何の話だったっけ?」とならずに済んだから、両方のミステリーを楽しめた。

    book Created Wed, 21 Jan 2026 00:00:00 +0900
  • 📄論文情報

    🔑この論文のキーメッセージ

    • プロンプトにツール情報が含まれない時、LLMの仮説生成+埋め込み検索が効果的である

    🎓どういう問題に取り組んだのか

    • LLMと外部ツールの連携をするためのフレームワークを提案する
    • 外部ツールと連携する時にプロンプトに外部ツールの情報が与えられないケースを想定している

    🧑‍🎓その問題に取り組むことがなぜ重要なのか

    • プロンプトにユーザーの指示が含まれるということは、ユーザーが事前に使用できるツールを知っている必要がある
      • この状況は、LLMの性能が一定の範囲しか発揮されないため、に制限をかけていることになる
    • そのため、ユーザーの指示に応じてツールを選択し、呼び出す必要がある
      • これを、オープンワールドファンクションコーリングと呼んでいる

    💡問題解決に向けたキーアイデアは何か

    • LLMの推論のためのフレームワークと、学習と評価のためのデータセットを構築した
    • 推論のフレームワークには、hypothesize(仮説生成)-retrieve(検索)-invoke(呼び出し)フレームワークとしている
      • Hypothesize(仮説生成)
        • LLMがユーザーの指示から、必要なツールの要件や引数を推論する
      • Retrieve(検索)
        • テキスト埋め込みモデルを使用した検索システムを採用している
        • 推論したツール要件や引数を埋め込み表現に変換し、 類似度を計算している
      • Invoke(呼び出し)
        • ツールに対するクエリを生成する
    • データセットには、既存のデータセットをオープンワールド形式に拡張するための方法を提案している
      • 拡張として、データセット内で呼び出されているツールをLLMで類似の形式に変換している
      • 変換後のツール呼び出しについて、推論プロセスを生成する
      • この生成した一連のデータをルールベースやLLMベースの方法により評価する

    👀新たに分かったことは何か

    • simpleタスクとhardタスクがあり、それぞれについてLLMを評価した
      • hardは、拡張したツール呼び出しや、呼び出しの回数が多いデータが含まれる
    • 評価の結果、学習したモデルがGPT-4oやオープンソースモデルよりも性能が良いことが分かった
    • 検索システムは、キーワードベースの手法と比較していて、提案手法の方がhard設定で良い性能であった。
      • シンプルな設定では、ますおこまで差がでないように見える
      • 埋め込みベースの他のモデルと比較しなくて良いのだろうか?

    ❓疑問点は何か

    • 仮説生成がどれだけ効くのか気になる
    • 埋め込みベースの検索が効くのは分かるが、ベースラインが弱いのでは?
      • 他の良さそうな方法は思いつかないけど
      • ツール呼び出しならではの検索システムとか考えることができそう
      • 引数の型は大きな制約の一つになると思う
    paper Created Mon, 19 Jan 2026 00:00:00 +0900