ネット上のニセ情報、詐欺犯罪への対策についてパブリックコメント(意見募集)が開始されました！！
意見募集ページ
デジタル空間における情報流通の健全性確保の在り方に関する検討会とりまとめ(案)についての意見募集
※資料にすべてアクセスすると、投稿フォームに遷移するためのチェックボックスがチェックできるようになります。(アクセスだけで大丈夫です)
概要
政府はネット上の偽情報の対策をしたいようです。
が、生成AIに関しては基本的にCLIPやstable diffusion XLなど海外産の無断学習されたオープンソースシステム頼りであり、日本はあくまでも国内では法整備をせず、企業にも働き掛けたくない方針のため、技術的な対応策が講じられない以上、国内で完結するような根本的な対策・解決方法は望めません。
そのため、請求内容は値切り交渉よろしく足元を見られた結果にならないよう大きくマージンを取って、生成AIを全面禁止を求める請求をしていくくらいでやっと適切な落しどころに着地できるかと思われます。
TIPS：
資料は長大なので生成AIに絞って効率的に意見を抜き出す流れとしては
-
「生成」などで検索すると言及ページに飛べるので、前後を流し見て気になった箇所のページ数をメモ帳にメモ。
（検索はPDFページを開いて、PCならctrl+F、スマホであれば共有メニュー＞ページを検索(iphone safari)や三点リーダー＞ページ内検索(android chrome)から行けます） -
目次から該当ページの項タイトルをコピー。先にメモしたページ数の下にペーストし、続けてメモ帳に意見を書いていきます。
-
まとまったら全部まとめてコピーし、フォームから提出しましょう。(フォームのページで直接書いているとタイムアウトで消える可能性があるため)
送る意見の例
資料で触れられていない問題提起
【 人道的な問題 】
- 子供を危険に晒す
・ディープフェイクによる被害
・AIを人間と誤認してしまう「イライザ効果」によるAIからの思想誘導の被害
参考：ベルギーでAIチャットbotと会話していた男性が自殺 - 企業が子供向けにchatGPTやミッドジャーニーなど年齢制限されたものを使わせたり、公的機関や規範となるべき政治家が政治利用禁止のchatGPTを政治利用したりなど無法地帯、サービスの規約が全く守られていない
- 嘘をばらまいている実際のアカウントとその内容のURL/詳細を実例として送る
など
【 著作物・プライバシーへの被害関連 】
-
学習・生成に勝手に使用・悪用され学習元となった国民の信用や財産、権利が侵害・毀損されること
-
著作権法では構造的・頻度的に親告罪で対処できないこと
-
著作権切れデータのみを使っても文化財のフェイクが作られる事が防げず、歴史の勉強や年代考証などに甚大な被害をもたらすこと(sakanaAIで浮世絵生成が作られ危険性が露呈した)
根本的な問題として、後述する『テクノロジー例外主義』により技術者がフェアユースの概念を曲解している、現実の制作や修復などへの工程への造詣が浅いといった「デジタルの画面で価値のあるものに似てさえいればいい」という認識の浅さが通底して見られること -
米国でイラストレーター、カーラ・オルティスさんのstable diffusionに対する著作権侵害の請求が認められ、データ開示の段階に進んだ事で、
近いうちに画像生成サービスの根幹を成すstable diffusion、midjourney系は使えなくなるであろうこと(本国で規制される) -
googleストリートビューなどのプライバシーに軽く触れる程度のデータでも、また生成モデルでなくとも、網羅的で広範なデータセットを用いることで、他愛のないたった1枚の写真から撮影者の居場所を推論して詳細に特定できるAIが個人でも製作可能となり、個人のプライバシーを脅かされかねない事
・グーグル、写真から場所を特定するAI「PlaNet」を開発
・このAIからは逃れられない？野外で撮影した写真の場所を正確に特定するAI
など
改善案
【 責任の所在の明確化と罰則を求める 】
- 現行の法律ではIT技術の普及・発展のために製造物責任法(PL法)の中に無形物であるソフトウェアが入っていないこと、
長年それを常識としてきたIT従事者に一般的な倫理意識が備わっておらず、情報空間と人権(国内・国外問わず)に甚大な加害行為を行っている事、
被害が出ても責任の所在が曖昧な事で問題の根本解決が妨げられている、いわゆる『テクノロジー例外主義』によるものだと自覚させ正常化を求める。
(誰でも知識を得られプログラムを組め、既存の人間の価値を奪う方向に向かっている事から、IT技術自体は既に普及し終えたと見てよい。「発展」に関しても、ゴールを明確化させる事が大事。) - 開発者：
・robots.txtの無視、ウォーターマークを外すサービスの使用など無断学習に係る脱法行為を明確に違法とする
・学習ソースとなったデータを開示、生成物上に生成物表記を義務付けさせ、できなければ罰則を課す - サービス提供者：
・誤認を招く虚偽の説明を触れ回る事への罰則 - 使用者：
・誹謗中傷に対する罰則 - プロバイダ・回線会社：
・対応が遅い/被害者に協力的でない事に対する罰則 - 行政
・文化庁：
人件費の踏み倒しをコスト削減などと言い代える詐欺師の甘言に騙され
100億円以上の損害を出したwinnyを擁護する事をやめる、など
・消費者庁：
不当表示を行った企業と対処を公開、など
・警察庁・検察庁：
著作権やプライバシー侵害に関して、企業でない民間の権利侵害の刑事捜査も積極的に行う
・総務省：
本人の同意無く国民のプライバシー情報をスクレイピングして、企業が勝手に
使えるようにするための代理機関になろうとするのをやめる
など
URLなどを添付し根拠を提示できると尚よいですが、URLが見つからない場合は意見だけでも問題ありません。
毎度の事ですが、とにかく「数」を送っていきましょう！
よろしくおねがいします！