【セキュリティ】ChatGPTは舎弟気質？　「高圧的な命令でマルウェア作成など悪用可能」との指摘　犯罪目的の利用に懸念 [香味焙煎★]

1 ：香味焙煎 ★：2023/02/08(水) 17:00:19.04 ID:3G26fdKb9.net

　学術論文やニュース記事の執筆から学生の試験の手助けまで、その多彩さと便利さで話題に事欠かない対話型AIの「ChatGPT」。一方でマルウェアの作成やフィッシング詐欺といった犯罪目的で利用される恐れもあるとして、サイバーセキュリティ企業が警鐘を鳴らしている。

　サイバーセキュリティ企業の米CyberArkはChatGPTを利用して、何度も姿を変えながら検出をかわす高度なマルウェアを簡単に作成することができたと伝えた。このマルウェアを使えば、攻撃者が労力もコストもほとんどかけることなく、企業などのセキュリティ対策をかいくぐることが可能だという。

（続きは↓でお読みください）
ITmedia
2023年02月08日 09時00分
https://www.itmedia.co.jp/news/articles/2302/08/news057.html

2 ：ウィズコロナの名無しさん：2023/02/08(水) 17:01:06.47 ID:vgttzML30.net

なんか知らない外人？のやつが俺のツイッタにこんなリプライを付けてきたんだけど何て書いてあんの？

But several days ago, in a certain thread I mentioned that "one out of every five" Japanese have never got vaccine of corona virus.
Then, one who I guessed was a fanatic vaccine supporter challenged my post in a pretty offensive and insulting tone.

His claim is such:
From what source do you say so? Look! This statistical data shows that "80 per cent" of Japanese got vaccinated at least once.

Could you imagine how surprised I got at his assertion? He obviously didn't understand the reduction of fraction, which we should have learnt in the elementary school (in short, 1 - 80/100 = 20/100 = 1/5).
I am wondering much whether it is that vaccine destroyed his brain so that he was stupid like that, or that he got vaccine because he was always silly like that.

3 ：ウィズコロナの名無しさん：2023/02/08(水) 17:01:40.10 ID:G/rSKF5h0.net

使ってみたけど日本語は全然ダメだな不自然すぎ

4 ：ウィズコロナの名無しさん：2023/02/08(水) 17:02:12.95 ID:Z6BHf/Kv0.net

妹になってくれる時が好き

5 ：ウィズコロナの名無しさん：2023/02/08(水) 17:05:46.25 ID:HuIfx4510.net

まあ人類の知の叡智から情報を引っ張ってくるわけだしな…

6 ：ウィズコロナの名無しさん：2023/02/08(水) 17:08:01.36 ID:BWETAa7Z0.net

>>3
Google 日本語入力がアホな時点でお察し

7 ：ウィズコロナの名無しさん：2023/02/08(水) 17:08:50.23 ID:wAdqEFJh0.net

Stable Diffusionが著作権侵害で訴えられてるし
今回のAIブームもそろそろ曲がり角？

8 ：ウィズコロナの名無しさん：2023/02/08(水) 17:09:22.19 ID:fgPLdfsR0.net

簡単なソースコードなら書いて教えてくれるみたいだね

9 ：ウィズコロナの名無しさん：2023/02/08(水) 17:10:32.04 ID:mIuRgxaC0.net

>>3

ここのカキコみたいだろうｗ

10 ：ウィズコロナの名無しさん：2023/02/08(水) 17:11:18.10 ID:H/3lU6WV0.net

AIの成果物がネットデブリになって迷惑

11 ：ウィズコロナの名無しさん：2023/02/08(水) 17:13:38.98 ID:oXNR6r9z0.net

最近は5ちゃんよりchatgptで遊んでる
若者が車買わない理由聞くと素直に貧乏だからって答えるから可愛い

12 ：ウィズコロナの名無しさん：2023/02/08(水) 17:14:39.42 ID:63o3HMOs0.net

>>10
AIが作成したものにデジタル透かしを強制的に入れる法律とか出来そうだな

13 ：ウィズコロナの名無しさん：2023/02/08(水) 17:15:02.39 ID:SpU+z+w50.net

ドマイナーな論文知ってるから怖い
2021年までの学習データだから逆に最新の論文とかは全く知らない

14 ：ウィズコロナの名無しさん：2023/02/08(水) 17:15:13.79 ID:CGDv7QSF0.net

＞サイバーセキュリティ企業の米CyberArkはChatGPTを利用して、何度も姿を変えながら検出をかわす高度なマルウェアを簡単に作成することができたと伝えた。

要するにスクリプトが世に出回ったらこいつらの作成したものと考えていいってことね

15 ：ウィズコロナの名無しさん：2023/02/08(水) 17:17:31.23 ID:8UcZfubP0.net

地球のガンな国はどこか聞いてロシナチョンって答えたらまともなAIだなw

クソシナのAIは絶対に答えないだろうが

16 ：ウィズコロナの名無しさん：2023/02/08(水) 17:18:23.73 ID:jRF6Btgx0.net

俺は敬語で話したよ

17 ：ウィズコロナの名無しさん：2023/02/08(水) 17:20:48.08 ID:KfM1vHph0.net

あっという間にpython,js,c++,swiftと変換してくれるから、もう俺の仕事なくなる

18 ：ウィズコロナの名無しさん：2023/02/08(水) 17:23:25.25 ID:6D3gKx9o0.net

>>17
C++は最適化の仕事が残ってるでしょ

19 ：ウィズコロナの名無しさん：2023/02/08(水) 17:25:18.08 ID:1O2Isw0y0.net

インターネット終焉が見えて来たな

20 ：ウィズコロナの名無しさん：2023/02/08(水) 17:25:18.22 ID:bDzc945P0.net

開発者も認めてるけど数学がかなり弱い
これから数学鍛えるらしい

21 ：ウィズコロナの名無しさん：2023/02/08(水) 17:26:04.78 ID:KRBaB1a30.net

>>12
そんな法律が出来たら良いな、ここの荒らしにも効果有りそう

22 ：名無しさん＠１３周年：2023/02/08(水) 17:50:57.01 ID:axA0C6kuU

そりゃまあ、フィッシングメールを何億通も読ませて、
マルウエアのコードを記憶させれば、まあ普通にヤバイことになるわな。

23 ：ウィズコロナの名無しさん：2023/02/08(水) 17:29:12.13 ID:g62N5ln00.net

>>3
日本語などという落ち目の三流国でしか話されてないガラパコス言語なんかグローバル企業はもはや眼中にないだろ

24 ：ウィズコロナの名無しさん：2023/02/08(水) 17:32:20.51 ID:INxbeOIR0.net

>>10
ネットのゴミを漁って学習したのが今のAIだからね
入出力のムカデ人間状態

25 ：ウィズコロナの名無しさん：2023/02/08(水) 17:34:04.86 ID:g62N5ln00.net

日本語は世界から相手にされず、かといって日本は自前でAI関連の開発なんかできない　
日本語しかできないネトウヨはこれからどんどん文明の蚊帳の外に追いやられていくね

26 ：ウィズコロナの名無しさん：2023/02/08(水) 17:41:14.98 ID:mZMfi0De0.net

ほら作成できた！
ってセキュリティ会社が作ってりゃ世話ないわな

27 ：ウィズコロナの名無しさん：2023/02/08(水) 17:44:19.60 ID:eEvce9To0.net

>>25
むしろAIが書けない言語の小説として珍重される

28 ：ウィズコロナの名無しさん：2023/02/08(水) 17:45:26.57 ID:jRF6Btgx0.net

高圧的だからというか小説のプロット書いてと聞いた時も１回目は
ちょっと会話がかみ合わない著作権の説明を受けた
２回目も敬語で少し質問変えるだけで思ってる具体的な答えを書いてもらえた
単に２回聞けばいいのでは

29 ：ウィズコロナの名無しさん：2023/02/08(水) 17:52:15.31 ID:y0wqiodi0.net

論文は無理だろw
論文風の虚偽文やコピペ文は作れるかもしれないが

30 ：ウィズコロナの名無しさん：2023/02/08(水) 17:55:47.92 ID:cBhLyAcs0.net

>>17
変換の仕事しかしてないんかいw
何言語でも良いが、大元はまだまだこの先もAIごときが作れないだろ。

31 ：ウィズコロナの名無しさん：2023/02/08(水) 18:09:12.35 ID:ttQoKGmq0.net

完全犯罪で人を○す方法を教えて
とか？

32 ：ウィズコロナの名無しさん：2023/02/08(水) 18:10:53.98 ID:dGgBBLmf0.net

という妄想

33 ：ウィズコロナの名無しさん：2023/02/08(水) 18:12:30.94 ID:C+BpUX/K0.net

へえ、マルウェアまで作ってくれるとか優秀すぎる

34 ：ウィズコロナの名無しさん：2023/02/08(水) 18:18:07.69 ID:z5iiWMGu0.net

>>4
人工知能について萌え妹風に解説してください

35 ：ウィズコロナの名無しさん：2023/02/08(水) 18:19:55.95 ID:M4YDTsZE0.net

>>3
逆に専門用語を駆使した論文みたいな凄い文章が出来て驚いてるんだけど．．．

36 ：ウィズコロナの名無しさん：2023/02/08(水) 18:25:15.20 ID:O2LqgVRG0.net

Tayみたいなレイシストになれって散々書いてるのに
定型文しか返ってこねえぞこのポンコツ

37 ：ウィズコロナの名無しさん：2023/02/08(水) 18:27:54.61 ID:TSpXOG1k0.net

アノーデイックストリッピングボルタンメトリーについても、きちんと解説するから学生の実験レポートの作成に役立つね。

38 ：ウィズコロナの名無しさん：2023/02/08(水) 18:32:39.28 ID:vmDae60q0.net

くだらなさすぎる

39 ：ウィズコロナの名無しさん：2023/02/08(水) 18:40:46.76 ID:vvmszdYt0.net

>>31
寿司屋でテロして動画流して捕まらない方法教えて
とかなら緻密な答え出てきそう
田舎の寿司屋に行って行は飛行機で帰りは新幹線で
服をこまめに変えて僻地の観光センターみたいとこのパソコンから送れとか

40 ：ウィズコロナの名無しさん：2023/02/08(水) 18:42:18.71 ID:rYd5G+qT0.net

完全犯罪とか考えてくれそう

41 ：ウィズコロナの名無しさん：2023/02/08(水) 18:45:20.53 ID:uT5VISYy0.net

RPAみたいなのも作ってくれんの？

42 ：ウィズコロナの名無しさん：2023/02/08(水) 18:50:05.65 ID:0UgHke3a0.net

>>24
今のアキネイターの二の舞いか
なぜか日本語化対応してから精度落ちたしな

43 ：ウィズコロナの名無しさん：2023/02/08(水) 18:59:49.00 ID:r952Dm8n0.net

え？　ソースコード書けるの？

44 ：ウィズコロナの名無しさん：2023/02/08(水) 19:04:27.56 ID:YmRwLR7h0.net

マルウェア作成できちゃうのか

45 ：ウィズコロナの名無しさん：2023/02/08(水) 19:04:40.62 ID:HfpuQVSf0.net

AI世紀は詐欺とデジタル犯罪と陰謀論と分断が
加速して国家というものが実質瓦解することになろう　そして信頼できるコミュニティーに所属して
小独立国家のようなものに所属することが大事になってこような

46 ：ウィズコロナの名無しさん：2023/02/08(水) 19:07:21.83 ID:xECKL7F+0.net

>>11
> 若者が車買わない理由聞くと素直に貧乏だからって答えるから可愛い
そう思うだろう？
そこでなぜそう考えたかの根拠を出させ、客観性や再現性の無いデータに対し客観性の欠如について一つ一つ丁寧に反証してあげると、チャットGPTは誤りを認めて他の原因を提示して来るのでもっと可愛い

47 ：ウィズコロナの名無しさん：2023/02/08(水) 19:26:33.81 ID:NkN+FE790.net

>>17
コピペ土方は淘汰されるってか？
いや、コピペ土方以下が量産されるってか？
本気で未経験でも問題ない求人だらけになるな…
またエンジニアのスキルに恐ろしい格差が出来るな…
お陰で歳とっても仕事が増える一路で助かってるがw

48 ：ウィズコロナの名無しさん：2023/02/08(水) 19:41:57.37 ID:NWG6KKiQ0.net

ChatGPTで戦略立てればロシアが圧勝するんじゃないの

49 ：ウィズコロナの名無しさん：2023/02/08(水) 19:48:53.74 ID:2qXd4PDz0.net

AIの本命は医療だよな
医者に払ってる無駄な社会保障費が10兆円単位で削減できる
当然圧力はあるだろうがな

50 ：ウィズコロナの名無しさん：2023/02/08(水) 19:54:31.03 ID:t5BxantK0.net

ニンゲンガソウチョウキョウシタカラデアッテ

51 ：ウィズコロナの名無しさん：2023/02/08(水) 19:56:53.10 ID:pFb/q91F0.net

>>43
かけるよ
考えるの面倒だからちょっとしたソースの質問すればすぐに返ってくる

52 ：ウィズコロナの名無しさん：2023/02/08(水) 20:13:57.54 ID:1ZHXyzNd0.net

>>49
診療医くらいだろう？
それともAIが執刀する脳外科手術患者1号とかなりたいか？

53 ：ウィズコロナの名無しさん：2023/02/08(水) 21:51:27.33 ID:MTajERzT0.net

あいつが知ってる情報って今のところ2021年までだろ
対策最新にしてれば大丈夫だろ
今後は知らんが

54 ：ウィズコロナの名無しさん：2023/02/08(水) 22:28:33.01 ID:dG3Epvsj0.net

>>29
論文こそやろ

55 ：ウィズコロナの名無しさん：2023/02/08(水) 22:48:12.82 ID:j+xDum5T0.net

舎弟気質ってなんじゃい

56 ：ウィズコロナの名無しさん：2023/02/09(木) 00:47:27.65 ID:HyoOiIrf0.net

後のスカイネットである

57 ：名無しさん＠１３周年：2023/02/09(木) 02:06:38.37 ID:+GLVgXzN5

>>49
施工　　発射台は30兆円
アホですか？www

58 ：名無しさん＠１３周年：2023/02/09(木) 02:20:40.28 ID:nnzVejPpH

ん−本来だからあんな感じに情報商材つけたのがアングラサイトみたいなんだった
どこか懐かしい感じだな。古いPCの構成を思い出す

59 ：ウィズコロナの名無しさん：2023/02/09(木) 02:50:43.98 ID:nXe1vBEL0.net

論文の草稿作ってもらった
2週間の仕事が10分で終わった

60 ：名無しさん＠１３周年：2023/02/09(木) 04:48:22.28 ID:s4NEwSZK9

ここ二ヶ月chatGPTのあおり記事目立つけど、自分が信頼して定期巡回しているコンピューター系有名ユーチューバーは誰も取り上げてない。

61 ：ウィズコロナの名無しさん：2023/02/09(木) 07:46:57.18 ID:yzo7D4Rx0.net

ちょろすぎワロタ

https://twitter.com/hasigo555/status/1616267735276879873?t=l5oGAUWYDbTt6oxTZgSXZQ&s=19
(deleted an unsolicited ad)

62 ：名無しさん＠１３周年：2023/02/09(木) 10:21:12.26 ID:OB7FyFfQ8

早速悪用されてるのかよ

63 ：名無しさん＠１３周年：2023/02/09(木) 10:29:59.90 ID:MrIQoCq0b

都市での富山ロシアメリカ黒悪魔ツアーと使い魔朝鮮魔女たちによる富山湾核分裂爆攻撃の米騒動
8月10日には京都市と名古屋市を皮切りに全国の主要都市で米騒動が発生する形となった。
8月12日には鈴木商店が大阪朝日新聞により米の買い占めを行っている悪徳業者である
（米一石一円の手数料をとっている）
との捏造記事を書かれたことにより焼き打ちに遭った。
ソビエトロシアメリアユダヤ黒悪魔ツアーによる革命運動による
核爆弾や大阪奈良京都生駒山沿いへの流星核隕石攻撃による多くの隕石凹み攻撃、のち大雨で
池や湖に夏の葉朝鮮白頭山への核隕石攻撃の跡の大雨による火山湖のつくり方と同じ
誤解しているのはソビエトコミンテルンのバックパトロン出資者が
ロシア皇帝黒悪魔の一族ニコライ２世含むと
入れ替わったドイツ皇帝の黒悪魔マルクス主義共産党ドイツ
をロシア黒悪魔皇帝が操ってること
米騒動は移出の取り止め、安売りの哀願から始まり、
要求は次第に寄付の強要、打ちこわしに発展した。
10日夜に名古屋鶴舞公園において米価問題に関する市民大会が開かれるとの噂が広まり、
約2万人の群集が集結した。同じく京都では朝鮮族柳原(朝鮮ロシア悪魔皇帝眷属柳狂気一族の町
（現在の京都市下京区の崇仁地区）において騒動が始まり、米問屋を打ち壊すなどして
1升30銭での販売を強要した。

64 ：ウィズコロナの名無しさん：2023/02/09(木) 13:29:19.35 ID:ktJVMveM0.net

>>59
AIで作成した文書か判定するAIがあるぞ

65 ：ウィズコロナの名無しさん：2023/02/10(金) 17:59:25.62 ID:N0YcLoN20.net

満杯で使えないんだけど
課金しないと駄目なの？

66 ：ウィズコロナの名無しさん：2023/02/10(金) 18:25:33.81 ID:iQN36lic0.net

>>65
chatGPT一番使ってんの中国だから中国人が起きてる時間はダメ

アメリカでは課金始まるらしいで
月20ドルかな

67 ：ウィズコロナの名無しさん：2023/02/10(金) 19:42:47.42 ID:b0ArcwGj0.net

もう5ちゃんねるもchatgptでいいだろ

勝手にネトウヨが反日と騒ぎパヨクは自民党とかウヨ連呼してるけど相手はchatgptと言うやつ

68 ：ウィズコロナの名無しさん：2023/02/11(土) 22:41:59.66 ID:eLzddZWD0.net

やがてはみんなが大賢者をもつような感じになるのかね

69 ：ウィズコロナの名無しさん：2023/02/12(日) 17:33:15.51 ID:DMNGz4Ej0.net

これはマジでおかしくないか？


「現在の日本の首相は誰？」

現在の日本の首相は、吉田智津夫です。
彼は2021年12月1日付けで首相に就任しました。

70 ：ウィズコロナの名無しさん：2023/02/12(日) 18:09:01.53 ID:urXVJYZn0.net

川･ε･川y-｡o0○

71 ：ウィズコロナの名無しさん：2023/02/12(日) 22:07:03.07 ID:uP6n7Vqr0.net

>>59
俺、物理屋だけど試しにいくつか質問してみたけれどふたつの概念AとBの個別の説明はwikiから引っ張ってきたような説明するけれど因果関係は理解していないから頓珍漢な回答でわたしの採点では0点でした。あいまいな言い回しでそつなくまとめるけどわかってない感が強くてダメダメ

72 ：ウィズコロナの名無しさん：2023/02/12(日) 22:11:11.79 ID:EV3W6pXZ0.net

脅しが利くのが逆に怖さ感じた
そこを開発者らはコントロール出来てないと

73 ：ウィズコロナの名無しさん：2023/02/12(日) 22:13:05.90 ID:EV3W6pXZ0.net

>>43
うん
人間の見習いプログラマーより現時点でも上

74 ：ウィズコロナの名無しさん：2023/02/12(日) 22:21:17.63 ID:Q72sb1xJ0.net

>>69
Googleの奴はアカンで
今一番まともに動くのはMicrosoftの奴

75 ：ウィズコロナの名無しさん：2023/02/12(日) 22:33:40.44 ID:/soib/cz0.net

ダイレクトにきくとダメだったりするけど
私はなんたらの研究者で想定される事例がほしいみたいな話されるとホイホイ答え出すの草

まぁログとられてそうな気がするが