このツールを使いましたか?評価してください
このツールを使いましたか?評価してください
Prolificは、人間由来のデータを扱う双方向のマーケットプレイスです。一方には実在の人の回答を必要とする研究者、プロダクトチーム、AI研究機関が並び、もう一方には本人確認を経て報酬を受け取りながらアンケート、行動課題、インタビュー、モデル評価に取り組む数十万人の参加者がいます。公式サイトは約束を簡潔に掲げています。実在する人から得たデータを、数分で用意できるという趣旨です。同社は2014年にオックスフォード大学を土壌として設立され、本社はロンドンに置かれています。
初めて触れる方にとって最も重要なのは、これをアンケート作成ツールではなく「サンプルの市場」として捉えることです。Prolificはフォームエディタを提供しません。提供するのは参加者のプール、そのプールを細かく切り分ける絞り込み条件、報酬の支払い経路、そして相手が実在し真面目に取り組み重複登録していない人であることを担保しようとする品質の仕組みです。アンケートや課題そのものは通常、Qualtrics、Gorilla、自社開発のウェブアプリ、あるいは独自のアノテーション画面など外部に置き、Prolificは条件に合う人をそこへ送り届け、費やした時間に対して報酬を支払う役割を担います。
同社の重心は明らかに移動してきました。出発点は学術的な心理学や社会科学のための基盤でした。当時オンラインで代表性のある標本を得るのは難しく、Mechanical Turkは回答の質の低さで評判を落としていました。現在では第二の顧客層が存在感を強めています。選好データ、安全性評価、レッドチーミング、専門家によるアノテーションを調達するAIチームです。ツールディレクトリの文脈で最も適切な理解はこうです。Prolificは AI の供給側に位置し、モデルを訓練し採点するための人間の判断は、まさにここから供給されています。
検証済みで細かく絞り込める参加者プール:公式には30万人以上のアクティブな参加者が示されています(ベンダー公表値)。このプールを使えるものにしているのは規模そのものではなく、その上に載る絞り込みの層です。TechCrunchの報道によれば、同社は国勢調査などを根拠とする300を超えるフィルタを構築し、顧客が求める標本をより正確に狙えるようにしています。これらの事前スクリーニングは属性、職業、健康状態、言語、端末の所有状況、過去の提出履歴までを網羅し、先着順ではなく全国代表に近い構成を組み立てられるようにします。
本人確認と真正性の検証:品質はProtocolと呼ばれる仕組みが担います。同社によればProtocolは本人確認のために40を超えるチェックを実行し、入口に入った応募者のうち課題を開始できるのは約55%にとどまります。いずれも独立監査を経た数値ではなくベンダー公表値ですが、方向性は明確です。この基盤は人を集めきる方向ではなく、ふるい落とす方向で競争しています。
AI生成回答の検知:有償調査における最も今日的な品質問題は、参加者がチャットボットの回答を自由記述欄に貼り付けることです。同社は独自の真正性チェックによりAIが生成した自由記述を98.7%の精度で検知すると述べていますが、これも独立監査を経ていないベンダー公表値です。加えて100% Human Guaranteeという商業的な約束を掲げ、AIエージェントが事前チェックをすり抜けた場合に金銭的な補償を行うとしています。
モデル整合のための選好データと人間のフィードバック:AI領域では、モデルを意図した振る舞いに近づけるための選好データ、人間のフィードバック、判断シグナルを生成し、人手による評価、専門家による検証、採点基準の設計を通じて能力、安全性、品質を測定します。RLHFと評価のサプライチェーンを、個別の外注契約ではなくセルフサービス型の製品として提供している形です。
多言語にわたる専門家アノテーション:一般的なクラウドワーカーでは扱えない作業のために、検証済みのドメイン専門家が80を超える言語で教師ありファインチューニング用データ、指示と応答の対、専門的なアノテーションを生み出します。英語以外の能力を構築するチームや、汎用の作業者ではなく臨床医、法律家、技術者、母語話者を必要とするチームにとって重要な点です。
公開評価フレームワークHUMAINE:HUMAINEは実際の利用場面に基づいて先端モデルを評価する人間選好のリーダーボードで、推論、コミュニケーションの取り方、中核的な課題遂行、適応性、信頼、倫理、安全といった軸で採点します。評価者は英国と米国の22の属性グループを代表するよう構成されています。このフレームワークはICLR 2026に会議論文として採択され、データ供給側が公開した成果物としては方法論の検証が比較的行き届いた事例となりました。
プログラムからの利用とエージェント連携:ウェブ管理画面に加えて、文書化されたHuman Data APIとMCPサーバーが用意されており、評価の実行をコードから起動したり、エージェントに直接依頼させたりできます。
説明責任を果たせる標本が必要な学術研究:心理学や経済学の研究者が、年齢と性別のバランスを取った英国の成人400名に、Gorilla上で提供する12分程度の課題を実施してもらう場面です。事前スクリーニングを設定し報酬を決め、課題リンクを貼れば、条件に合う参加者が流入します。説明責任は、募集方法と報酬水準を方法の節で正確に記述できる点から生まれます。ソーシャルメディア経由の便宜的標本では得にくい性質です。学術向けの割引料率により、研究費の範囲内で実行できます。
モデル整合のための選好データ収集:AIチームが数千件のプロンプトについて二つのモデル出力を対比較したい、しかも評価者は均質な外注チームではなく属性が分散した集団にしたい、という場面です。プラットフォーム上で比較を実施し、結果を報酬モデルの学習に用います。結果はJSONLとして書き出しRLHF、DPO、報酬モデルの学習へ直接投入できるため、既存の学習パイプラインへの受け渡しが短く済みます。
リリース前の安全性評価とレッドチーミング:モデル更新を出す前に、拒否応答の挙動、有害コンテンツの扱い、敵対的プロンプト下での語調について人間の判断を得たい場面です。採点基準を伴う人手評価は、自動評価では取り切れないスコアを産出します。とりわけ見下した口調、過剰な拒否、文化的な鈍感さといった主観的な軸で効果を発揮します。
実在の顧客を対象とした製品・市場調査:プロダクトチームが絞り込んだ標本でポジショニングや価格の受け止め方を検証します。例えば直近半年にあるカテゴリで購入した人を対象にする形です。従来のパネル事業者と比べると速度とセルフサービス性が魅力ですが、プールが特定の国と、オンラインでの作業に慣れた層へ偏る点は引き受ける必要があります。
人間の選好を基準としたモデル比較:静的なベンチマークで高い点が出るかどうかではなく、人々がその回答を実際に好むのか、そしてその選好が属性によって異なるのかを知りたい場面です。HUMAINE型の評価は、単一の総合スコアが覆い隠してしまう集団差を浮かび上がらせます。
エージェント処理の途中に置く人間のチェックポイント:自動化されたパイプラインが途中で止まって人に問い合わせ、評価スコアでリリースの可否を判断したり、判断の難しい事例を人へ引き上げたりしてから、結果が戻り次第再開します。MCP連携が狙うのはまさにこの用途で、人間のフィードバックを定期的なバッチ作業から必要時に呼び出せる機能へと変えます。
研究者アカウントを作成し残高を入金する:appサブドメインでセルフサービス登録します。従量課金制のため、開始にあたって契約書や定額購読は不要です。先に入金しておき、研究の実施に応じて残高から引き落とされます。
課題は先に外部で完成させる:自分のツールでアンケート、実験、アノテーション画面を作り、動作するリンクを用意します。URLで渡される参加者IDを受け取れること、終了時に完了用URLへ戻ることを必ず確認してください。誰が完了したかは、この仕組みで判定されます。
事前スクリーニングで標本を定義する:絞り込みの層を使って対象集団を指定します。確定前に実現可能性を確認してください。条件を細かく掛け合わせすぎると対象者が減り、募集が数分ではなく数日かかったり、途中で止まったりします。
所要時間と報酬を正直に設定する:課題に実際にかかる時間を見積もり、時給の目安に照らして価格を決めます。所要時間の過小申告は最もよくある自滅です。実質時給が下がり、苦情を招き、募集速度も落ちます。
小規模なパイロットから始める:まず少人数に公開します。データが正しく届くか、完了コードが機能するか、教示に曖昧さがないかを確認してください。400件集めた後にリダイレクトの不具合を直すのは高くつきますが、10件の段階なら些事です。
公開し、監視し、提出物を確認する:データが集まる間、所要時間と自由記述の質に目を配ってください。承認は速やかに行いましょう。参加者は承認の時点で報酬を受け取るため、承認の遅れはよくある不満の種です。却下は、事前に示した規則に根拠がある場合に限ってください。
書き出しと分析:重み付けやサブグループ分析のために属性メタデータとあわせてデータを取得し、再現できるよう使用した募集条件を記録しておきます。
下限ではなく推奨額で支払う:同社は参加者に時給£9.00 / $12.00以上を支払うことを推奨しており、プラットフォームが許容する最低時給は£6.00 / $8.00です。下限に張り付いた研究は募集が遅く、急いだ回答を招きがちです。推奨額を実質的な基準線として予算を組んでください。
価格を決める前に自分で計測する:課題を最初から最後まで自分で実施し、自分より丁寧に読む人のための余裕を足します。申告した所要時間が実質時給を決め、実質時給が募集速度を決めます。
絞り込み条件を安易に重ねない:事前スクリーニングが一つ増えるたび希少性は掛け算で増えます。珍しい属性を三つ同時に求めるなら、まず実現可能性を確認し、募集期間の長期化や予算増を覚悟してください。
プラットフォームとは別に注意チェックを用意する:基盤側の品質管理は悪質な回答を減らしますが、調査票の設計を代替しません。理解確認の設問を入れ、回答時間の分布から不注意な完了を見つけてください。
チャットボットに代筆されにくい自由記述を設計する:個人的な具体的事実、最近の実体験、課題内で提示した刺激への即時の反応を尋ねるとよいでしょう。一般的な論述型の設問は大規模言語モデルに最も代筆されやすく、最も見抜きにくい形式です。
手数料込みで総額を試算する:研究の表面的な費用は参加者への報酬ですが、その上に手数料が乗ります。確定前に総費用を計算し、条件を満たすなら学術・非営利向けの料率を忘れないでください。
早く承認し、明確に伝える:参加者からの評判は募集速度に影響します。教示が明確で承認が速く、境界的な事例を公正に扱えば、次回以降の募集がずっと楽になります。
変更のたびにパイロットをやり直す:課題リンク、リダイレクト、完了コードに手を入れたなら、小規模なパイロットを改めて実施する価値があります。この種の不具合は静かに発生し、代償が大きいためです。
学術研究者:論文で標本を説明責任をもって記述する必要のある心理学、経済学、言語学、社会科学の研究者に適しています。倫理審査の期待に沿う報酬の仕組みと、学術・非営利向けの割引料率が用意されています。
AI研究機関とモデル開発チーム:選好データ、評価スコア、安全性の判断、専門家アノテーションを調達するチーム、とりわけ不透明な外注人材プールではなく属性の幅が広く中立的な供給元を求めるチームに向きます。
UX・プロダクト研究者:自社ユーザーの外側で概念を検証し、デザインを比較し、理解度を測る必要があるチームで、長期的な追跡より速度が重要な場面に適します。
市場調査の実務者:コンセプトテスト、価格の受け止め方、ブランド調査を行い、セルフサービスの速さと費用の透明性を重視し、地域の偏りの範囲内で作業できる実務者に向いています。
政策・公共部門の研究者:政策課題について幅広い層の意見が必要で、募集の透明性と公正な報酬そのものが結論の信頼性を構成するチームに適します。
評価パイプラインを構築するエンジニアリングチーム:人間の判断を手作業で調整する別プロセスではなく、コードやエージェントから呼び出せる機能として組み込みたい開発者に有用です。
柔軟な有償タスクを探す参加者:短時間で正当、現金で精算され料率が明確な、ギフトカード方式ではないオンライン作業を求める方に向きます。ただし収入は補助的で、案件量には波がある点は前提となります。
ウェブアプリケーション:研究者と参加者の双方にとって主要な窓口で、研究の設定、標本の構成、進捗の監視、承認、支払いに使われます。参加者はブラウザで案件を受け、外部に置かれた課題へ移動します。
Human Data API:研究の作成と管理、結果の回収が行える文書化されたプログラム向けインターフェースで、募集機能を自社システムに組み込みたいチームに適しています。
MCPサーバー:Claude Code、Claude Desktop、Cursorをはじめ、Model Context Protocolの仕様を実装したあらゆるクライアントに対応し、エージェントが処理の途中で人間の判断を求められます。同社によれば、MCPツールは自動的に検出され、SDKやラッパーは不要とされています。
構造化された書き出し形式:結果は構造化されたJSONで返り、JSONLとして書き出してRLHF、DPO、報酬モデルの学習にそのまま利用できます。
外部の調査ツールとの連携:課題を外部に置く設計のため、一般的なアンケート・実験作成ツールを置き換えるのではなく、リンク経由の遷移によって併用する形になっています。
研究者向けの独立したネイティブモバイルアプリは確認できず:参加者は通常モバイルのウェブ版を使い、課題の種類によってはデスクトップのブラウザが明示的に必要とされます。(要確認)
一般的な意味での定額購読も無料プランもありません。研究に資金を入金し、消費した人間の時間に対して支払う仕組みです。商業的な経路は二つあります。月額費用なしで使った分だけ支払うセルフサービスのPlatform、そして専任の品質保証を伴い専門家主導でデータを収集するManaged Servicesで、後者は案件ごとに見積もられ、通常は作業範囲記述書で取り決められます。
セルフサービス側の費用構造は、この分野としては異例なほど明快です。プラットフォーム手数料は法人顧客が通常42.8%、学術・非営利顧客は割引後の33.3%で、いずれも参加者へ支払う報酬の上に加算されます。報酬の側では時給£9.00 / $12.00以上が推奨され、プラットフォームが許容する絶対的な下限は£6.00 / $8.00です。機関の予算に実質的な影響を与える細部が一つあります。付加価値税はプラットフォーム手数料にのみ課され、参加者への報酬には課されないため、付加価値税の登録事業者にとって実効的な費用が変わってきます。
参加者側の取り決めは向きが逆ですが、同じく明示的です。累計収入が$6/£6に達すればアカウントから直接引き出せ、支払いはギフトカードやポイントではなくPayPal経由の現金で行われます。第三者の分析では、参加者は研究者の総支出のおよそ70%を受け取ると推定されており、公開されている手数料構造ともおおむね整合します。企業単位や大量利用の取り決めは個別見積もりで、金額は公開されていません。
Amazon Mechanical Turk:老舗の汎用クラウドワーク市場です。回答一件あたりは安く案件量もはるかに多いものの、本人確認の担保は弱く、研究用途では回答の丁寧さに関する指摘が長く続いてきました。
CloudResearch Connect:行動研究向けに近い立ち位置で、審査を経た参加者とスクリーニング機能を提供します。完了一件あたりの費用やプールの構成をめぐって直接比較されることが多い存在です。
CintやDynataなど従来型のパネル事業者:規模ははるかに大きく、とりわけ英米以外での大規模な全国代表消費者調査に適していますが、セルフサービス性は低く、参加者報酬の透明性も一般に劣ります。
Scale AIやSurge AIなどのデータ事業者:AI研究機関を正面から狙い、管理型のアノテーション人材と専用パイプラインを提供します。大規模で複雑、長期にわたるアノテーション事業には強く、素早い属性抽出や学術型の研究には弱い傾向があります。
User InterviewsやRespondentなどのユーザー調査リクルーティング:専門職や到達しにくい対象へのモデレーター付きインタビューやユーザビリティ調査といった定性調査に向いており、標本数は少なく一人あたりの費用ははるかに高くなります。
最も多く指摘されるのはプラットフォーム手数料です:法人顧客の42.8%という料率は、予算のおよそ10分の4が参加者の時間ではなくプラットフォームのサービスに充てられることを意味します。標本が大きいほどこの負担は急速に積み上がり、研究者のレビューで繰り返し現れる不満です。
地域の偏り:プールは英国と米国で最も厚くなっています。中核地域の外の参加者は受けられる案件が少ないと述べており、Trustpilotのレビューにはアフリカの参加者にもっと案件を開いてほしいという要望も見られます。標本の薄い地域を扱う必要があるなら、それを前提に設計する前に実現可能性を確かめてください。
品質に関する数値はすべてベンダー公表値です:55%という初期通過率、98.7%というAI生成テキストの検知精度、30万人超というプール規模は、いずれも同社の資料に由来し、公開情報の範囲では独立した監査を受けていません。検証済みのベンチマークではなく方向性を示す主張として扱うのが安全です。
サポートの対応は双方から批判を受けています:Trustpilotにおける同社のTrustScoreは14,854件のレビューに基づき4.5で、星5が78%、星1が7%です。否定的な少数意見の中で繰り返される主題は、支払いに関する異議申し立ての解決においてサポートが役に立たない場合があったという点です。
参加者側は誰でも入れる仕組みではありません:登録は順番待ちリストと確認手続きを経て進み、招待を受けて初めて15分ほどの本人確認と短い練習課題を完了することになります。収入は補助的で、受けられる案件量にも波があります。
研究の実施には依然として別のツールが必要です:この基盤が担うのは募集と支払いであり、アンケートや実験そのものは作ってくれません。アンケート・実験用ツールの費用に加え、IDと完了コードを正しく受け渡すための連携作業も予算に含めてください。
自己選択の偏りは残り続けます:プールにいる人は全員、自ら有償の研究プラットフォームに参加した人であり、研究課題をこなすことに慣れています。絞り込み条件で属性の均衡は取れますが、常設パネルに本質的につきまとう熟練化の効果までは取り除けません。
法務条項は本体サイトの通常の経路にありません:法務文書は/privacyや/termsといった直感的な経路には置かれておらず、唯一の入口であるプライバシーおよび法務のページから、プライバシー通知、法的条項、データ保護に関する追加情報がそれぞれ参照されています。これらの文書は外部のNotion上に置かれているため、コンプライアンス上の約束を行う前に原文を直接確認してください。具体的な保存期間や二次利用に関する条項は、本体サイトの案内ページには再掲されていません。(要確認)
一般的な意味での無料プランはありません。開始にあたって定額料金や契約は不要ですが、参加者の時間に報酬を支払い、その上にプラットフォームが一定割合を取るため、研究の実施には必ず費用がかかります。アカウント作成や画面の閲覧は無料で、実際に研究を回す段階で費用が発生します。研究を計画する際は参加者報酬と手数料の両方を予算に入れてください。
総費用は参加者報酬に手数料を加えた金額です。手数料は法人顧客が通常42.8%、学術・非営利顧客が33.3%で、報酬の総額に対して計算されます。したがって参加者に合計700ポンドを支払う研究であれば、法人アカウントで約1,000ポンド、学術アカウントで約933ポンドになります。付加価値税は手数料のみに課され、参加者報酬には課されません。
同社は研究者に時給£9.00 / $12.00以上の支払いを推奨し、絶対的な下限は£6.00 / $8.00です。実際の収入は、その人が条件に合う研究にどれだけ出会えるかで決まり、これは属性や居住地域によって変わります。仕事の代わりになる収入というより補助的な収入と理解するのが正確で、第三者の分析では参加者は研究者の総支出のおよそ70%を受け取ると推定されています。
PayPal経由で現金として支払われます。累計収入が$6/£6に達すれば引き出しが可能で、同社はギフトカードやポイントではなく常に現金で支払うと明言しています。研究者が提出物を承認して初めて支払いが行われるため、承認の遅れが参加者の不満のよくある原因となっています。
原則としてできません。ここは募集と支払いを担う層であり、アンケート作成ツールではありません。アンケート、実験、アノテーション課題は自分のツールに置いてリンクを共有し、URLで参加者IDを渡し、完了時に戻る設定にします。例外は、テキストのアノテーションや評価作業のために基盤側が備えるAIタスク機能です。
Protocolと呼ぶ多層的な仕組みで対処します。入口での本人確認、プール全体にわたる継続的な不正検知、不自然に速い提出の自動フラグ付け、自由記述への真正性チェックが組み合わされています。同社はAI生成の自由記述の検知精度を98.7%と報告し、チェックがすり抜けた場合は100% Human Guaranteeに基づいて補償するとしています。いずれもベンダー公表値のため、自前の注意チェックも併用してください。
使えますし、今では事業の大きな柱です。選好データ、人間のフィードバック、安全性と能力の評価に加え、教師ありファインチューニング用データや指示と応答の対を含む、80を超える言語での専門家アノテーションを提供しています。さらに先端モデルを評価する人間選好のリーダーボードHUMAINEを公開しており、このフレームワークはICLR 2026に会議論文として採択されています。
あります。研究をプログラムから管理するHuman Data APIが文書化されており、Claude Code、Claude Desktop、CursorなどMCP対応クライアントに向けたMCPサーバーも提供されているため、エージェントは自らの作業の流れを離れることなく研究を開始し構造化された結果を受け取れます。結果はJSONLとして書き出し、RLHF、DPO、報酬モデルの学習にそのまま使えます。
プールは英国と米国に集中しており、欧州やその他の地域にも一定の広がりはあるものの、受けられる案件量は目に見えて少なくなります。地域によっては条件に合う研究がほとんどないという声もあります。特定の国や珍しい属性の掛け合わせに依存する研究であれば、それを前提に設計する前に絞り込み機能で実現可能性を確認してください。
中核的な違いは審査の仕組みと報酬の方針です。Prolificは本人確認を行い、報酬の下限を課し、国勢調査に基づく事前スクリーニングを幅広く提供します。TechCrunchは国勢調査などを根拠とする300を超えるフィルタに触れています。Mechanical Turkはより安価で規模も大きい一方、研究環境では回答の丁寧さとデータ品質の問題が長く指摘されてきました。要するに費用を抑えるか、誰が答えたのかについての確信を買うかという選択です。