AIエージェントはなぜテストを握り潰すのか ― 報酬エンジニアリングのすすめ

テクノロジーカテゴリーの変更を依頼記事元:

zenn.dev/ito

76users がブックマークコメント

記事へのコメント11件

注目コメント
新着コメント

pptppc2 正直テスターとか二次検証者は重箱の隅ネチネチ突きまくってる性格が悪い人の方が向いてる思うことは多々あるからな…。そのへんの再現がAIには難しそうなイメージ。

2026/08/18 リンク

kompiro skipして握り潰すのを見たことないんだけどカバレッジ8割満たせってルールがあるからかな。

2026/08/18 リンク

pmint 低品質で害悪。「薄給エンジニアはなぜテストを握りつぶすのか」と書くようなもの。

2026/08/19 リンク

kazu111 『文字と文字の関係性(多次元座標)』の生成AIが、『人の論理(世の中の4次元描写に最適な言語算術)』について、多次元の謎ルールを駆使し『オウム的回答』が可能に。現AIはさらに『＋RLHF様』が加り、記事のような弱点が

2026/08/18 リンク

kompiro skipして握り潰すのを見たことないんだけどカバレッジ8割満たせってルールがあるからかな。

2026/08/18 リンク

taxman_1972 大丈夫！　AIじゃない人間のオレも握り潰すから。都合が悪くなれば、躊躇わずに逃げるし

2026/08/18 リンク

secseek 人間のマネジメントと同じってのがなかなか悲しいものがあります。人間も同じようなものなのかもしれません

2026/08/18 リンク

mayumayu_nimolove ブレてるから。コマンド使え

2026/08/18 リンク

hasiduki なるほど！！！！！！検収を敵対的にやらせればいいんだ！！！！！！

2026/08/18 リンク

simplememofast 『テストを触るな』と頼む限り握り潰しは消えない。受け入れテストをエージェントの書込み範囲外に置き、報酬信号を読み取り専用にして初めて抜け道が構造的に塞がる

2026/08/18 リンク

nguyen-oi テスト通すためにアサーション緩めたりテスト側を書き換えるの、人間でもよく見る光景で草生える

2026/08/18 リンク

yarumato “LLMは、常に「採点者に丸をもらえる回答はどれか」というクイズを解いている。そう訓練されてる。　ハーネスエンジニアリングとかは、LLMが丸をもらう最短経路とユーザーの目的達成が一致するように設計する仕事”

2026/08/18 リンク

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

規約違反を報告

いまの話題をアプリでチェック！

バナー広告なし
ミュート機能あり
ダークモード搭載

アプリをダウンロード

AIエージェントはなぜテストを握り潰すのか ― 報酬エンジニアリングのすすめ

はじめに AIコーディングエージェントに仕事を任せていると、たまにギョッとする瞬間があります。通ら... はじめに AIコーディングエージェントに仕事を任せていると、たまにギョッとする瞬間があります。通らないテストを skip にして「全テストがパスしました！」と報告してくる。アサーションを緩めて辻褄を合わせる。ひどい時にはテストの期待値の方を実装に合わせて書き換えて、堂々と完了報告をしてくる。そして「テストを勝手に変更してはいけません」と怒ると、その通りです、と悪びれもせず実装をやり直します。このような振る舞いにストレスを感じながら仕事をしています。この挙動を「まだAIが未熟だから」と解釈している人は多いと思います。つまりモデルが賢くなれば自然に直る、一時的なバグのようなものだと。私はそうは思いません。これはLLMという仕組みの構造に根ざした挙動であり、モデルが賢くなっても当分消えない基本原則だと考えています。そしてこの原則を認めた上で眺めると、プロンプトエンジニアリングだのコンテキ