質問だけではなく、要約からプログラミングまで幅広い用途で活躍するChatGPT。しかし、便利なあまりに社員が機密情報まで共有してしまう事例が相次いでいます。
韓国メディア「Economist」によると、サムスン社内で起こった最初の事件は、社員が半導体設備計測データベースのソースコードをChatGPTにコピー＆ペーストしたというもの。この社員は、コードの修正プログラムを見つけるためにChatGPTを利用していたと言われています。
サムスン電子DS部門の役職員A氏は、半導体設備計測データベース(DB)ダウンロードプログラムのソースコードを実行中にエラーを確認した。問題となったソースコードを全てコピーしてChatGPTに入力し、解決方法を問い合わせた。サムスン電子の設備計測に関するソースコードがオープンAIの学習データとして入力されたことになる。
他にも、同じような情報流出が2件報告されています。一例では、社員がChatGPTに議事録を作る録音した会議内容を全てChatGPTに流してしまったこともあったそうです。
従業員B氏は、歩留まり・不良設備の把握のために作成したプログラムコードをChatGPTに入力する事故を起こした。関連ソース全体をChatGPTに入力し、コードの最適化を要請した。社員C氏は、スマートフォンで録音した会議内容をNaver Clovaアプリケーション(アプリ)を通じて文書ファイルに変換した後、ChatGPTに入力した。会議録作成要請が目的だ。
問題なのは、ChatGPTが送信されたクエリを削除しないことです。Open AIは、これらのプロンプトが保存され、AIモデルの改良に使用される可能性があるため、ユーザーは機密データを入力するべきではないと明確に警告しています。
サムスンは以前、従業員が仕事でChatGPTを使用することを禁止していましたが、その後、この事件の3週間前にAIツールの使用禁止を解除することを決定していました。現在サムスンはChatGPTのプロンプトに1024バイトの制限を設けることで、この問題を解決しようとしているとのこと。
https://www.appbank.net/2023/04/07/technology/2441805.php>>1
自社の開発資料をクラウドに載せる。
いや、ホントこの人ら名目どおりの「大卒の俊英」なん？ww「お馬鹿朝鮮人」の一言
それを遣ればどうなるか想像がつかないのかね、バカッターと一緒だわ。試してみたい気持ちは分からなくもないがね。
記憶媒体でも、自分用、共用、管理が杜撰そうだな。
勝手にいろんな端末に接続してそうだ。- 5
名無し2023/04/08(Sat) 14:07:42(1/1)
このレスは削除されています
기술이 없는 일본이 부럽습니다
>>6
病院へ行け！
荒らし野郎。リテラシーの無い人間は
どこの階層でもいる。もともと朝鮮人は近視眼的で二手先が読めない民族だしな。
ChatGPTに聞いたが、私はアニメのクリエーターで、コメディアンだそうなｗ
どんなやつだよｗこれからの産業スパイは重要機密をCHATGPDに入力するのが主な仕事になるなｗ
chatGPTの問題ではなく、
韓国人が馬鹿なだけだろ。
日本には｢気違いに刃物｣という諺がある。韓国を代表する企業なのにセキュリティの理解が低すぎです
またIT先進国の嘘が暴かれましたねChatGPT関係なく許可されていないサーバー対向で社内の機密情報を送るな、基本中の基本だろう
何やってんの成果が第一で、手段は二の次、見つからなければok。評価もそう。
コンプライアンス、ガバナンス、あって、ないようなもの。
ニュースになるのは氷山の一角。だって朝鮮人だもの...
ChatGPT が危険ってどういうことだろうと思ったら社員が社内の情報を流すってことか
そんなことをするアホがいるなんてちょっと想像できなかった
危険なのはChatGPTじゃなくて朝鮮人の脳の方だろサボるためならコンプラも無視だよ。
劣化コピーと同じ理屈、ザ、韓国だねぇ。>>1
"この社員は、コードの修正プログラムを見つけるためにChatGPTを利用していたと言われています。
サムスン電子DS部門の役職員A氏は、半導体設備計測データベース(DB)ダウンロードプログラムのソースコードを実行中にエラーを確認した。問題となったソースコードを全てコピーしてChatGPTに入力し、解決方法を問い合わせた。"
"従業員B氏は、歩留まり・不良設備の把握のために作成したプログラムコードをChatGPTに入力する事故を起こした。関連ソース全体をChatGPTに入力し、コードの最適化を要請した。"
この役職員A氏や従業員B氏の仕事はエラーの解決方法やコードの最適化方法を「創り出す事」じゃないの？
彼らの仕事は何処かに存在している解決方法を探し出すのでは無く、今は存在していない解決方法を新しく創り出すという仕事ではないの？
今のＡＩは新しい事を創造出来ないけど、人間は新しい事を創造出来るから現時点ではＡＩより人間が勝っている。
韓国人は創造性を捨てているから、既にＡＩに負けている様だ。ChatGPTに教えを請うサムスン社員。
ダメ企業。韓国政府や韓国軍も使ってるんだろうな
この大失態とやらで、日本企業には韓国企業と関わる危険性を学んで欲しい
そのうち韓国人総出で多くの捏造歴史をAI に記憶させようと入力しだすぞ！
竹島に関して質問したら日本の領土って答えたからね。😁チャットＧＰＴ、学生の利用に対策…上智大「論文使用なら厳格な対応」
質問に応じて自然な文章を作成する対話型ＡＩ（人工知能）「チャットＧＰＴ」を巡り、国内の大学が相次いで対策に乗り出した。リポートでの利用を制限したり、情報流出の危険性を学生に注意喚起したりする動きが広がっている。専門家は、教員側の対応が求められると指摘している。
上智大は３月２７日、学生と教職員に対し、「成績評価における対応方針」を公式ウェブサイトで公表。リポートや学位論文でチャットＧＰＴなどのＡＩが生成した文章や計算結果などを、教員の許可なく使うことを禁止した。ＡＩが生成した文章を検知するソフトを使うなどして、論文などでの使用が判明した場合、「厳格な対応を行う」としている。
チャットＧＰＴは米新興企業「オープンＡＩ」が昨年１１月に無料公開し、すでに世界で１億人以上が利用している。高い利便性の一方、ＡＩの学習が不十分な分野では誤った内容で回答することがあるほか、学習データに著作権のある文章が含まれていた場合、著作権を侵害する可能性がある。また、企業や研究内容などの機密情報を書き込めば、その情報をＡＩが学び、外部に漏えいさせる恐れもある。
学生にＡＩ自体の利用を禁止することはできないため、各大学の対応は、リポートでの使用制限や注意喚起が中心だ。
東京大は今月３日、他の対話型ＡＩなども含めて「生成系ＡＩについて」と題した文書を学内向けサイトに掲載。「リポートは学生本人の作成が前提。ＡＩのみを用いて作成することはできない」などとした。
７日に行われた京都大の入学式では湊長博学長が、ＡＩ生成の論文には問題が多いと指摘。「文章を書くということは、非常にエネルギーを要する仕事だが、皆さんの精神力と思考力を鍛えてくれる」と新入生に語りかけた。
教員に対して対応を呼びかける動きもある。東北大は公式ウェブサイトで「留意事項」を提示。学生への注意喚起のほか、「演習課題やリポートを課す前に、ＡＩがどう回答するか確認する」「教室で記述させる試験形式にする」など、課題の出し方や試験方法の見直しを促した。>>1
Amazonも同じことやってたな
このスレ、この件を韓国を叩くためのネタとして利用してるコメントが大半だけど、嫌韓ってそうやって韓国・韓国人を差別してヘイト垂れ流す活動なんですか？
https://gdep-sol.co.jp/newtech-report/no92/
AmazonはChatGPTが出力するデータに会社の機密情報が含まれていると指摘する。
社員がChatGPTに機密情報を入力し、これをアルゴリズムが学習し、その情報が社内に漏れることを懸念している。
社員はChatGPTに機密情報を入力し、そのアップデートや修正をリクエストする。
その際に、アルゴリズムは機密情報を学習し、ChatGPTが改版される。
改版されたChatGPTに、社外の利用者が質問を入力すると、アルゴリズムは学習した機密情報を出力する危険性がある。
Amazon社内でのChatGPTの利用法
Amazonの社員がChatGPTを使って業務を遂行している実態が明らかになった。
社員はChatGPTをプログラムのコーディングを支援するツールとして使っている。
コーディングにおいて、社員はChatGPTでプログラムをデバッグし、また、ロジックを改良する。
社員は開発中のコードをChatGPTに入力し、チャットボットにこれを効率化するよう指示する(下の写真、ChatGPTにコードのデバッグを指示したケース)。
ChatGPTはこれに従ってコードを生成するが、アルゴリズムは入力されたコードを学習し、これを社外の利用者に出力する危険性がある。
特に、コードが開発中の先進技術を含んでいれば、情報がリークした際の被害は甚大となる。
AmazonはChatGPTの利用を禁止
このため、Amazonは社員が会社支給のデバイスでChatGPTを使うことを禁止した。
社員がこれらデバイスでChatGPTのサイトにアクセスすると、警告メッセージを表示し、セキュリティの問題があることを説明する。
しかし、社員としては、ChatGPTを使うと仕事がはかどるので、会社が使用を禁止するものの、継続して使われているのが実態である。>>25
全てとは言わないが大半は韓国人が仕掛けてきてるもの対してだからね。
韓国では義務教育で反日教育が行われてるからね。- 27
名無し2023/04/09(Sun) 09:55:29(1/1)
>>27
機密事項で試行錯誤する方が異常だろｗこれに関しては、gpt4 20ドル払って使ってるけど、Pythonやmatlabのプログラム能力めっちゃ高いし、文字起こしからの議事録作成能力も高いから、危険危険で導入しないのも、ある意味リスクだと思うわ
日本人が学ぶこと。
朝鮮人を雇ってはいけない。
たった一つの答え。>>27
いやいや、そもそも「ネットワークを経由して機密情報を渡すサービスを、機密保持契約もない状態で使うな」はセキュリティの常識だそ
翻訳サービスだろうがデータ変換サービスだろうが全部同じ
試行錯誤とかそれ以前の話“日本進出を検討”「ChatGPT」開発のオープンAI・アルトマンCEOが岸田総理と面会
対話型AIサービス「チャットGPT」を開発したアメリカのオープンAI社のCEOが岸田総理と面会し、日本への進出を検討していると述べました。
オープンAI アルトマンCEO
「岸田総理とは素晴らしい話し合いができました。我々はAI技術の利点と欠点をどのように軽減していくのかについて意見交換しました。また、日本でAI技術が採用されていることは素晴らしく、未来に興奮しているとも伝えました」
複数の関係者によりますと、岸田総理との面会でアルトマンCEOは、日本のマーケットを重視しているとの考えを伝えたとみられ、記者団には日本への進出を検討していると明らかにしました。
チャットGPTをめぐっては、個人情報が収集される懸念などから欧米では規制の動きが強まっていて、会談ではルール整備のあり方などをめぐっても意見が交わされたとみられます。
アルトマンCEOがG7首脳と面会するのはこれが初めてです。
https://share.smartnews.com/upX8h>>1
使わない事を選択するのは構わないと思うけど
人間がプログラムを組むよりはるかに高精度なものが一瞬で出来るのに
運営の不手際だけで使わないようにしようと言うのは
危険だからネットを使わない事にしようって暴挙と似ている。
問題はプログラムを組んだ後に確実に消すという事を実行する事なんだから
知恵の絞り方を間違えている様に思う。>>32
個人情報なんてイマドキかよw
もうほぼ全ての個人情報は抜かれていると言うのに。
恐らく俺らの性的嗜好までほぼ丸裸にされているとおもうよ。
好むと好まざるとある程度の情報流出をしないと
今の時代は生きていけないと思う。
情報流出が怖かったらアマゾンだって買い物なんかもできなくなる。- 36
このレスは削除されています
まあ、反面教師というやつですかｗ
>>1
サムスン、従業員の生成ＡＩ利用を禁止－ChatGPT経由でデータ漏れる
（ブルームバーグ）： 韓国のサムスン電子は「ChatGPT（チャットＧＰＴ）」といった人気の生成人工知能（ＡＩ）ツールを利用しないよう従業員に指示した。
一般的には職場で対話型ＡＩの活用が広がりつつあるが、同社のスタッフがChatGPTにセンシティブなデータをアップロードしたことが発覚し、生成ＡＩツールの利用を原則禁止する新たなポリシーを策定した。
この方針はサムスン電子が同社最大級の部門のスタッフに文書で１日伝えたもので、この社内文書をブルームバーグ・ニュースが確認した。それによると、同社エンジニアが４月に社内ソースコードをChatGPTにアップロードし、誤ってリークさせた。どのような情報を含んでいたかは不明。サムスンの担当者はコメントを控えた。
文書によると、こうしたＡＩプラットフォームに送信されたデータは外部サーバーに保存されるため、回収・削除が難しく、他のユーザーに開示されてしまう恐れがあると同社は懸念している。
米スタートアップのオープンＡＩがChatGPTを投入すると大きな関心を呼ぶとともに、懸念も広がった。今年２月にはＪＰモルガン・チェースやバンク・オブ・アメリカ、シティグループを含むウォール街の銀行数行がChatGPTを禁止もしくは制限した。
サムスンの新たなポリシーは、社所有のコンピューターやタブレット、携帯電話、社内ネットワークでの生成ＡＩシステムの使用を禁止するもので、基本ソフト（ＯＳ）「アンドロイド」搭載のスマートフォンや「ウィンドウズ」ノートパソコンなど消費者向けに販売されている同社のデバイスは対象外。
個人所有の端末でChatGPTなどを利用する従業員に対しては、サムスンの知的財産と分かる可能性のある会社関連の情報や個人データを入力しないよう求めた。従わない場合は解雇もあり得ると警告した。>>40
この間違いの意味、解るの？>>1
まあ韓国には所詮分からない事。
日本は一度大失敗をしている。
それはwinny事件であった。
今の仮想通貨と言うのは全てP2P技術というものが使われている。
ここではあまり細かくは話さないけど
これは革命的なアイデアだった。
でも国家権力はwinnyを危険なものとして
開発者の金子何某を訴えると言う暴挙に出た。
そのおかげで日本はP2P技術を一度根本から破棄してしまったと言う過去がある。
そしてビットコインなどの仮想通貨が莫大な利益を上げてると知って愕然とした、
何故ならwinny事件で一度放棄したP2P技術が使われていたから。
もしあの時金子何某が訴えられなくて
もっと技術を伸ばしていったなら
恐らく日本はアメリカを超えるほどの繁栄を享受していたかもしれない。
俺はニュースで今の仮想通貨はP2P技術が使われていると知った時に
「そら見たことか！。」と叫んだよ。
日本は一度手痛い失敗をしてるんだよ。
だから世界からなんと言われても良いから
日本はAI先進国になろうとしてるんだよ。
これは日本にとってさいごのチャンスだと思うよ。AIの機能は制限されるべき
特に未成熟な層が無制限に使用するのにはストップをかけたい
人間の「考える」という行為を他人どころかプログラムに委ねようとする様には危惧しか感じない（´・ω・｀）>>42
別にP2P自体はWinnyの前より有ったし、というかMXの名前から名付けられたみたいだし
後でも有って技術自体が放棄されたわけでも無いし、ビットコインなどP2Pのみをもってアメリカを超える繁栄とか無理かと「韓国に伝えたいメッセージは？」尹大統領の問いに、ChatGPTアルトマンCEOの答えは
尹大統領、オープンAI創業者兼CEOサム・アルトマンと面会
尹錫悦（ユン・ソンニョル）大統領が9日、生成型人工知能（AI）「ChatGPT（チャットジーピーティー）」の開発会社「OpenAI（オープンエーアイ）」のサム・アルトマン最高経営責任者（CEO）に面会した。今年初めの部署業務報告時、長官らに「ChatGPTを研究せよ」と指示した尹大統領の先端技術開発に対する関心が反映された面会だと評価されている。
尹大統領は「韓国はどのような分野に集中すべきだと思うか」と、AI時代に韓国が特化すべき分野についても尋ねた。これに対して、アルトマンCEOは「半導体分野だ。AI時代には非メモリー半導体も必要だが、莫大（ばくだい）なデータ量のためにメモリー半導体の需要も大幅に増えるだろう」「OpenAIは現在、台湾の半導体も多く使っているが、台湾が引き続き半導体を供給しても、需要に合わせるには韓国の半導体が必要なので、韓国との協力を複数の国々が切実に望んでいる」と語った。
最後に、尹大統領が「韓国企業と韓国人に伝えたいメッセージは？」と尋ねると、アルトマンCEOは「第一にAIを活性化するためのシステム半導体生産能力を増やすこと、第二に企業活動の規制をなくし、AI生態系を構築すること、第三に国際規範を作っていくのにあたり、先導的な役割を果たすことだ」と答えた。そこで、尹大統領が「技術の発展スピードがあまりにも速いため、ChatGPT関連の副作用を防止するための国際規範も、スピード感を持って整備しなければならない」と話すと、アルトマンCEOは「社会内での危険性を減らし、個人の利益を保障するためにも、規範準備は重要だ」と語った。
https://www.chosunonline.com/site/data/html_dir/2023/06/10/2023061080004.html
ChatGPTは危険。サムスン社員の大失態から日本企業が学ぶべきこと
45
ツイートLINEお気に入り401
レス投稿
画像をタップで並べ替え / 『×』で選択解除