The Japan Times - OpenAI、CSAM検出ツール公開 ChatGPTで検索すると24時間アカウント停止

EUR -
AED 4.040576
AFN 70.414639
ALL 90.713366
AMD 393.670515
ANG 1.969846
AOA 1009.455967
ARS 1705.222388
AUD 1.633374
AWG 1.983155
AZN 1.873245
BAM 1.953669
BBD 2.214732
BDT 136.917515
BGN 1.951216
BHD 0.415005
BIF 3306.175169
BMD 1.100225
BND 1.417493
BOB 12.828121
BRL 6.364692
BSD 1.099575
BTN 103.226383
BWP 15.393206
BYN 3.30422
BYR 21564.403763
BZD 2.211536
CAD 1.572832
CDF 2550.320671
CHF 0.923842
CLF 0.0279
CLP 1098.068061
CNY 7.332502
CNH 7.33193
COP 3651.612712
CRC 490.00974
CUC 1.100225
CUP 26.390211
CVE 110.435001
CZK 24.414539
DJF 195.531637
DKK 7.475047
DOP 66.618208
DZD 150.803335
EGP 59.062154
ERN 16.50337
ETB 177.410959
FJD 2.513738
FKP 0.832383
GBP 0.834295
GEL 2.855082
GGP 0.832383
GHS 12.91116
GIP 0.832383
GMD 80.869244
GNF 9747.990648
GTQ 8.404792
GYD 230.098968
HKD 8.632489
HNL 29.782904
HRK 7.516697
HTG 144.122766
HUF 364.379564
IDR 20101.104936
ILS 3.568744
IMP 0.832383
INR 103.361763
IQD 1666.840393
IRR 2118211.969194
ISK 136.801391
JEP 0.832383
JMD 174.365809
JOD 0.780069
JPY 175.370293
KES 143.084631
KGS 96.213987
KHR 4488.916782
KMF 492.351175
KPW 990.202599
KRW 1470.23575
KWD 0.342852
KYD 0.9165
KZT 489.306179
LAK 24782.560737
LBP 98525.119758
LKR 365.990713
LRD 185.388661
LSL 18.687297
LTL 3.248677
LVL 0.665515
LYD 7.101971
MAD 10.999221
MDL 20.114056
MGA 5054.432079
MKD 61.554773
MMK 2309.99731
MNT 3965.241369
MOP 8.887604
MRU 44.724055
MUR 52.61237
MVR 16.954496
MWK 1911.0899
MXN 20.37928
MYR 4.504321
MZN 70.31547
NAD 18.687339
NGN 1480.7707
NIO 40.433267
NOK 10.623
NPR 165.161813
NZD 2.000131
OMR 0.423038
PAB 1.09971
PEN 3.749782
PGK 4.966442
PHP 70.324708
PKR 304.074063
PLN 4.401724
PYG 6824.399678
QAR 4.009213
RON 5.342361
RSD 117.639325
RUB 90.880609
RWF 1625.031855
SAR 4.140192
SBD 8.910016
SCR 15.249738
SDG 661.796312
SEK 11.10591
SGD 1.418075
SHP 0.83461
SLE 25.360078
SLL 23071.165496
SOS 629.893518
SRD 41.207269
STD 22772.429568
STN 24.617527
SVC 9.622284
SYP 14305.121683
SZL 18.687339
THB 37.283867
TJS 10.133944
TMT 3.861789
TND 3.3469
TOP 2.649077
TRY 55.478391
TTD 7.468004
TWD 36.283199
TZS 2910.097592
UAH 49.988809
UGX 4563.502856
USD 1.100225
UYU 44.650273
UZS 13230.201849
VES 1006.269457
VND 28346.188701
VUV 132.818678
WST 3.092274
XAF 655.957
XAG 0.02337
XAU 0.000285106532
XCD 2.973412
XCG 1.981938
XDR 0.777916
XOF 655.957
XPF 119.331742
YER 260.201039
ZAR 18.671688
ZMK 9903.328411
ZMW 22.517638
ZWL 354.271899
SSP 6541.255127
MXV 2.286832
  • Goldpreis

    39.3000

    4219

    +0.93%

  • DAX

    -38.2900

    25360.92

    -0.15%

  • Euro STOXX 50

    -11.5200

    6308.74

    -0.18%

  • TecDAX

    -4.8600

    3998.24

    -0.12%

  • MDAX

    129.2300

    31012.42

    +0.42%

  • SDAX

    27.7900

    18406.89

    +0.15%

  • EUR/USD

    0.0017

    1.1364

    +0.15%

OpenAI、CSAM検出ツール公開 ChatGPTで検索すると24時間アカウント停止
OpenAI、CSAM検出ツール公開 ChatGPTで検索すると24時間アカウント停止

OpenAI、CSAM検出ツール公開 ChatGPTで検索すると24時間アカウント停止

米OpenAIは11月16日、児童性的虐待コンテンツ(CSAM)を検出するための新たな画像分類ツール「OpenAI CSAM Image Classifier」を発表した。既存の検出手法では困難だった新規画像や生成AIによる画像も対象とし、審査通過組織へAPI経由で無償提供する。同時にChatGPT上でのCSAM検索行為に対し、アカウントを24時間停止する警告機能も導入した。

Textgröße:

米OpenAIは11月16日(現地時間)、児童性的虐待コンテンツ(CSAM)を検出する新たな画像分類ツール「OpenAI CSAM Image Classifier」を発表した。この新ツールは、生成AIによって作成された画像や、これまで確認されていない新規の画像も検出対象とする。審査を通過した組織に対し、OpenAI APIを通じて無償で提供を開始する。

新ツールは画像に含まれる性的虐待の視覚的な特徴を分析し、CSAMである可能性をスコアで示す。従来の手法では既知の違法画像のハッシュ値と照合していたため見つけにくかった新規画像やAI生成画像も対象とし、AI生成CSAMの可能性を示す専用のスコアも出力する。OpenAIは、AI生成CSAM専用の判定指標を備え、幅広い組織が利用できる分類ツールは初めてだと主張している。

開発には米国の行方不明・被搾取児童センター(NCMEC)が協力し、学習や評価、設計に関与した。業界団体のTech Coalitionと非営利団体のROOSTもツールの提供に協力する。

OpenAIがユーザーのアップロード画像を対象に行った評価では、既存の検出ツールとほぼ同数の虐待画像を検出し、レビュー対象として報告される画像の数を48%削減できると推定している。新ツールが示した画像に実際に虐待コンテンツが含まれる割合は、既存ツールの約2倍だったという。

先行導入したパートナー企業における試験結果も公表されている。AIプラットフォームのfalでは、確信度の高い検出結果の72%を担当者が新規のCSAMと確認した。動画生成AIのinvideo AIでは、検出されたケースの4件に1件がアカウント停止につながった。SafetyKitによる、児童を性的に描写したイラストやアニメーションを対象とする評価では、検出率は90%で、合法的な成人向けコンテンツの誤検出率は1%未満だった。

一方、同時に公開したモデルカードによると、ChatGPT上の実際の通信を対象にした場合の適合率は、オフライン評価より大幅に低かった。例えば乳児が写った画像の検出率(再現率)は49.3%にとどまった。また、動画フレームでの検証は行っていない。OpenAIは、スコア単体でCSAMと断定したり法的通報の根拠としたりするものではなく、最終的な判断は人間の審査担当者が行うよう推奨している。

OpenAIは同時に、ChatGPTで児童性的虐待コンテンツを探そうとする行為を抑止する警告機能も導入した。該当する行為を検出すると、AI生成かどうかにかかわらず、児童を性的に扱うコンテンツは有害で違法となる可能性があり、探すこと自体が利用規約違反に当たると警告する。対象の会話は削除され、アカウントは24時間停止される。警告画面からは、無料の専門的な支援窓口も案内される。違反を繰り返した場合は、制限期間の延長やアカウントの閉鎖、当局への通報につながる可能性があるという。

開発者向けには、CSAMの防止、検出、対応・通報に関するガイドラインを公開した。法執行機関の児童保護専門部署向けには、膨大なチャット履歴や法的手続きで入手した記録の確認作業を支援し、事案の関連性や時系列の整理を効率化するツールと研修を提供する。

OpenAIはこれまでも、ChatGPTの未成年ユーザー向けにペアレンタルコントロールや年齢予測機能を導入してきた。一方、米非営利団体Common Sense Mediaは10月、13~17歳向けの「ChatGPT for Teens」を「容認できないリスク」があると評価し、安全機能の改善と第三者による検証が済むまでChatGPTの利用を18歳以上に限るよう求めている。

T.Ikeda--JT