#119 続・発信の倫理｜生成AIへのもやもや（ゲスト：しゃべり足りない部”まいこう”さん）

ゲストまいこうさん登場と「雑談系ポッドキャストの日」

こんにちは、かねまるです。

プラントライフは、化学プラントの技術者が、化学を軸に、皆さんの視野を広げていく番組です。

今回は、ゲストとして、しゃべり足りない部のまいこうさんをお呼びいたしました。よろしくお願いします。

はい、こんにちは。どうも、しゃべり足りない部という番組をやっております。

卑屈なのに人が大好き、まいこうと申します。30代の会社員です。よろしくお願いします。

よろしくお願いします。

よろしくお願いします。

同じく、30代の会社員ということで、今回お呼びしたのは、先日、雑談系ポッドキャストの日という企画で、

私の方でAIに関する話を出したんですけど、そこにだいぶ共感していただいたみたいで、話したいっていう、ちょっとコメントいただいたんで、

思い切って、じゃあ話しましょうってことで、連絡させていただいて。

本当に話しに来ました。

大丈夫ですか?困ってないですか?

いや、もうめっちゃ嬉しいです。ありがとうございます。本当にありがとうございます。嬉しいです。

この聞いてる皆さんにとってはね、なんかちょっとよくわからない人がいたと思ってるかもしれないんで、先にちょっと謝っておきますというか、

すいません、もう全然冒頭のかねまるさんのいつものオープニングから始まって、急に雑談番組の人来たみたいになってるかもしれませんが、よろしくお願いします。

よろしくお願いします。

ちなみに、AIの話に行く前にちょっと気になってることがあって、かねまるさんは雑談系ポッドキャストの日は何をきっかけにご参加くださったんですか?

知ったのは、たぶん誰かのリポストなんですよ。

流れてきたんですね。

流れてきたんだと思います。たまたまですね。

たまたま。それでご参加してくださったんですね。

はい。

めっちゃありがたいです。本当にありがとうございます。嬉しい。そんなたまたま届いているなんて、もうこんな嬉しいことはないですね。ありがとうございます。本当に。

そうですね。私の番組は基本、雑談はあんまりしないような番組だったんで、ちょうどいい企画だなって思って。

ありがとうございます。まさになんかすごい嬉しい使われ方をしてる。しかも雑談番組だったらいつも雑談なんですけど、テーマがしっかりとある場合、これを取り扱いますってなってる場合。

プラントライフさんもそうだと思うんですけど、雑談をやる口実にもなったらいいなとか思っててちょっとだけ。なのですごいありがたいです。本当にそう言っていただけてありがとうございます。

そうですね。まさに口実で、雑談系ポッドキャストの日の時に大体こう特殊な設定でやったりするんですよ。僕。

いつも編集するけど、なるべく編集しないでやろうとか、ちょっと思ってること話そうとか。

リスナー的にも面白いです。やっぱり雑談を日頃やってない番組さんでたまに雑談があるっていうのがもともと好きだったんで、すごい私も楽しんでます。雑談を聞いて今回も楽しみました。本当にありがとうございます。

ありがとうございます。

生成AIの倫理と懸念点

そしてAIの話にすごい共感して私は、そして感想を送ったという形でした。

なんかほぼ全部共感しましたぐらいの書き方でした。

共感することが多すぎて、本当にそうなんだよなって。最近本当にAIがすごく急に一般化してきたじゃないですか。いろんなことが。

かねまるさんの雑ポデの106の回を聞いて、編集もAIでやってるっていうのを聞いて、それはすごいちゃんとした有効な使い方。

ちゃんとしたっていう言い方も変かもしれないですけど、すごい有効な使い方だし、人力でやるより早いことをやってるっていう、効率も良くなったりとか、エラーが少なくなったりとかっていう使い方かなって思いながら勝手に聞いてたんですよ。

けどなんか最近は、生成AIというものが一般化してしまったために、まあしてしまったっていうと変かもしれないですけど、してるだけに全然誰でもポンとスイッチ一発でできるようになったなっていうふうに思ってて、

それだけにちょっと粗製乱造の方向にも行ってしまうこともできるというか、それでうーんって思ってたんですよね。なのでちょっとすごくもやーっとした気持ちをもう数ヶ月ずっと、しかもあの2,3年、4年くらい前の生成AI黎明期の何じゃこのめちゃくちゃな画像はっていう感じじゃなくて、

画像とか文章もかなり自然にでき、自然に見えるようにできるようになってきたので、なんか余計気になってっていう感じですね。

たぶん思ってることはだいぶ似てるのかなって思いますけど、簡単にあれですね、106回私のところどんな内容だったかって一応紹介しておくと、もうAIのせいでだいぶあれですね、できることが増えてきて、何もできない人がやりたい放題やってるというか、倫理的に外れたこともできるようになってきてしまってて、

AIで大量に文章を生成して、もう何ですかね、ネットの海に大量にばら撒くことで稼げるようになってきてるっていう状況とか、

AIが勝手に作ったものをそのまんまファクトチェックしないとか、事前に確認せずにそのまんま出してしまって、相手に被害が及んだとしても、SNS上はもう逃げたら済むような状態になってたりとか、

比較的倫理的に良くないことがやりやすくなってる時代だなっていう話を自分の思うままに喋ってたんですけど

うんうんうん、いやもう本当にそうだなと思って、これ聞いた時に話題になってた論文の画像じゃないのに論文っぽい画像を生成してるとあるサイトの話とかも、私もちょっとこれはっていう、本当に知見がない人が見たら誤解しそうな画像を作ってたり

あ、見ました

うんうんうん

権利というものはみたいな気持ちもちょっとあって、自分自身が製造関係の仕事っていうこともあって、うーんみたいなもやーっとすることもあったりとかして

なるほど

っていう感じでしたね

人間によるディレクションの重要性

あとまいこうさんあれですよね、デザインもされてたりして、気になるところとかあるのかなって、僕はもう全然デザインができないから、むしろかなり恩恵を受けている側なんですけど

うーん、私もこの回の中で確かかねまるさんがAIを使うこと自体は全然いいと思うけど、その使い方が重要っておっしゃってたじゃないですか

はいはい、そうですね

で、かねまるさんの場合だと多分アイコンとかサムネイル、エピソードサムネイルとかは生成なのかなって思ってたんですけど

そうです

でもそれがなんていうかその結構やっぱり建物のイラストとか器具のイラストとかが入ってることが多いじゃないですか

はい

けど破綻がないやっぱり破綻がないものをちゃんと選んでるのかなっていうふうに思ったんですよね

はいはい

腕が2本あるとかを生成してくることって初期の頃はあった気がするんですけど

はい

それは腕が2本あるというか右腕が2本あるみたいなことを生成することが初期は結構よくあったと思うんですけど

意図せずしてというかそういうつもりじゃないのにそうなってるみたいなのよくあったと思うんですけど

それはみんな腕というものはある程度知ってるから右腕が2本になってるじゃんとかはわかるけど

自分がよく知らないものを画像で生成しちゃったりとか細かいところまで校正というか点検する癖がついてないとスルーしちゃうみたいなのが多いのかなと思ってて

なのでAIにイラストを生成させたりイラストの中に使う

例えばイラストを生成させてそこに文字を入れるとか全然使いようによってはいいと思うんですけど

やっぱり最後の砦となるのは人間だからそこが最近生成AIの話するときによく言ってるのが

鉄人28号ってわかりますか

聞いたことがあるぐらいですね

本当ですか 私結構ケーブルテレビで鉄人28号昔のアニメ小さい時に見てたんですけど

鉄人28号のテーマソングというかオープニングソングの中で

敵に渡すな大事なリモコンっていう歌詞があって

鉄人28号はリモコンで操作するんですけど私もちょっとうる覚えで大体の情報なんですけど

その主人公の男の子が持ってる時はいいロボットなんですけど

悪人に渡ると鉄人も悪になっちゃうんですよ

そういうことですか

鉄人 そうなんですリモコン次第なんですリモコンする人次第なので

なので敵に渡すな大事なリモコンっていうのと一緒で

生成AIもコントロールする人次第かなと思ってて

だから人間のディレクションの重要さみたいなのがこれから重要視されるだろうなっていう

もちろん全員気にしませんみたいなコミュニティもありえるかもしれないんですけど

人のディレクション力はいるよなとか

かねまるさんのお話の中で出てきたことで言うと

それこそ設計とかに関わることになってくると

ヒューマンエラー思想をAIは持ってないっていうのは本当その通りって思いますし

AIならではのエラーがとかもありますし

そういうのをすごい感じますいつも

ありがとうございますすごく嬉しいんですけど

ヒューマン 本当にこの回は共感がめっちゃ多くて

そうそう人人最後は人みたいな

別に生成AIの技術が一般化したからといって

知識の入り具合が均等になったわけではないから

やっぱそのディレクションを任せる人だったり

ディレクションする人はそのやり方だったりが重要だよなっていう風にすごい思うんですよね

だからすごい共感なんですよ本当にこの回

ありがとうございます

デザインのところは僕も全然てんでダメなんですよもともと何も作れなくて

今はサムネイルとかもやっと時代がこう自分に追いついてくれたというか

とりあえず言ったら破綻しない絵を作ってくれるようになってきたんで

大分助かってますね

ヒューマン そうですよねなんかすごい良い時代だなとも思うんですよねそういうところが

例えばまいこうの場合だったらじゃあAIに助けてもらうとしたらって考えた時に

例えば私は背景を描くのがすごい苦手なんで

バックグラウンド的な街並みとか描くのはすごい苦手なので

街並みだけ描いてもらうとかありかなとか思ったりもしますし

それこそ建物描いてもらうとかありかなとか思ったりしますし

それって本当にほんの1年前とかは

いやこんなんじゃ使えないよっていう絵ばっかり生成されてたような気がするんですよAIって

だからすごい良くなったなって思いますし

しゃべり足りない部始めたての頃に

ミッドジャーニーを触ってみたことがあって画像生成AIの

その時のミッドジャーニーって本当にキメラみたいな画像を出してくる感じだったんですよ

本当に怖いみたいなだから

本当に不気味の谷みたいな画像ばっかり出てきて

それをなんかちょっと面白半分っていうのもあって

しゃべり足りない部のアカウントに載せたりしたこともあったんですけど

最近ふと思い出してそれ見たら今日相当怖くて

本当に進歩したなってめっちゃ思うんですけど

経験に進歩しましたね

いやいや本当に飛躍的に動画も最近はすごい自然にできるようになってるし

だから本当に使い方次第では最高のアシスタント状態にすることもできるんですけど

本当に決めるのは自分だからなっていうのは

絶対忘れないようにしたいなっていうふうに思いますいつも

専門分野でのAI活用と知識の必要性

そうですね

まいこうさんの絵もだいぶこうちょっと丸みを帯びて

少し特徴がある感じなんで

それを元に背景作ってもらうとかしたら

すごくマッチしそうですね今の時代

ありがとうございます

これに合わせて作るっていうのが本当にちゃんとできるようになってきてるから

すごくそういうのだったら作る側としても夢がありそうなというか

自分の素材でちゃんと学習させて手伝ってもらおうとかはいいなって思いますし

確かピクサー出身のアニメーターの方たちが

生成AIに助けてもらいながら映画を作ったみたいなのが少し前話題になってて

それはどういう使い方かっていうと

手描きっぽいタッチのアニメーションを作りたいけど

それを本当に一コマ一コマ描くには

チームの規模的にちょっと物理的に難しい

外注費用とかもそんなに捻出できないみたいな中で

生成AIにアセットというか素材を学習させて

手描き風のエフェクトが全体にちゃんとかかるようなアニメーションを生成したみたいなのを言ってたんですよ

そんなことがもうできるんですね

そうなんです多分相当本当にそれ用に開発したAIとかなのかもしれないけど

AIの会社に頼んで開発したとか

プリセットあるのかもしれないんですけど

とはいえそんな風に使えるという話を聞いたら

そういう使い方はすごいいいなっていう風に思ったんですよ

本当に作業の時間を短縮して

内容に時間をかけたりとか

それこそカット割りだったり映画の構成とかを考えることに

人間は時間を使えるようになって

本当に決めのところ以外はAIに任せられるとか出てくると思うんで

そういうのはすごくいいなっていう風に思いましたね

だからそういう使い方だったらすごくいいなって

そういう意味ではいい時代だなともすごく思うっていうのはありますね

まさにそうですね

ピクサーの許容できるレベルまでいけてるっていうのがちょっとびっくりしたんですよね

そうですね正確にはピクサー出身の独立したアニメーターの人たちみたいな感じなんですけど

映像を見たらこれができるんだっていうすごいちゃんとした内容だったんですよ

だからすごくそれもびっくりで

こんなに進歩してるんだみたいなのをすごい感じられて

よく考えたら大量にAIに作ってもらって

あとは選択できる人がいるから

クオリティーが高く見えてくるんでしょうね

それもすごくあると思います

ちゃんとディレクションできてればみたいなのもあるのかなって思いました

今ちょうどまいこうさん話してたサムネイルを作ったりとかはほとんどポン出しで使ってるんですよ

あんまり見た目の重要性って意識してなくて

だいぶもう性能が上がってきたんでいいんですけど

そこから技術の解説の記事に載せたりとかするときはかなり気を使うんですよね

やっぱりそうですよねnoteとかに載せるとかってなるとまた変わってくるというか

そうですね番組的に化学構造式とか使うんですけど

それはもうAIで出してもらうっていうよりは

RDキットっていう化学構造を作るパイソンのプログラムライブラリーがあって

それで破綻しないやつを逆に作ってもらうようにとかしてるんですよね

それを合成するっていう形にしたりとか

ある程度知識持ってちゃんとどこまでAI使うかとか決めとかないと破綻しちゃうなって思うんですけど

そうですよねそれこそ化学式とか構造の図とかって

多分なんとなくあんな感じっていうのは知ってる人は多いかもしれないけど

実際に出てきたCとかOとかHとかが合ってるかどうかは知らないとやっぱり判断できないじゃないですか

そうですね

だからそういうことですよね結局

私もそれをめっちゃ思ったのが最近の107のパーツが変われば別人ですっていうエピソードのサムネを見た時に

これは知らない人が作ったら事故るって思ったんですよね

今怖くなったんですけどあれどんな感じのサムネ作りましたっけ

カルボン酸とかグリセリンとか

それって多分学校で化学を勉強化学を習う学校のカリキュラムで勉強したことがある人だったら

そうだよなって思うと思うんですけど

なんかじゃあこのCOOH部分の並び方は図としては正しいですかとかは知らないと多分

AIが嘘を出してきてもわかんないじゃないかと思う

そうですねこれは確かちゃんと見た記憶がありますね

これだけわざわざ作り変えた気がします

これはなんか絶対にこれ間違ってたらかねまるさんの信用に関わるじゃないですか

だからそういう素材もあったりするからちゃんと確認してるんだろうなって勝手に私は思ってたんですよ

そうですねよく考えたら確認してますね

それもなんか自然にできるのもやっぱ日頃から知ってるからこそというか的なところも大きいなと思うんですよね

だからなんか生成AIによって変に気が大きくなるとやっぱ間違いが起きるかなって私は思ってるので

Google翻訳とかが初めて一般化した時みたいな感じで

Google翻訳が言ってるからこの英語正しいっしょみたいな

いや違うんですって言ってもでもGoogle翻訳がこう言ってるからみたいな感じで

生成AIが出してきて見た目いい感じだからいいじゃんみたいになる可能性もあるっていう

なんかでもそれは知見があったらちゃんと自分が砦になってチェックできるから

なんかそれが生成AIが初めてすごいちゃんとした画像を出すようになった時に

うわぁ大丈夫かなって思ったけどやっぱ人間は必要だよなっていうのは思いますね

今のところは当面は必要だろうなっていうふうには思います

まださすがに細かいところを見ていくと分かる人にはなんか違うなって思うところがいっぱい出てきますよね

あとはどこなら見逃してもいいかみたいなのもありますよね

そうですね用途によって変わってくる感じですね

そうですよね化学式は絶対に間違えられないけどここはもう破綻があってもGoみたいなとかあると思うので

なんかそういうのもまた違うよなというふうに思いました

ちょっと生成AIの話にすごい共感したなというのを非常に強く感じていたので

それを今日お伝えできてすごく良かったです

ありがとうございます

すごいすごいあのすごいペースで発信もされているので

このポッドキャストだけじゃなくてnoteも相当書かれてますし

とか思うとやっぱりとてもその中で自動化するとかもすごい大事なことだと思うから

なんかそういう使い方は見習いたいと思う

見習えるかどうかは議論的に別として見習いたいなと思いますし

あとあのあれですね

ウェブサイトとかもAIを発信して作られてたので

なんかそういう新しいことにちゃんと取り組んでいらっしゃるのもすごすぎると思って

すごく私はこれはすごいちゃんと私も勉強しようというふうに思いました

AIのこともちゃんと勉強して老害にならないようにしなきゃと思いました

まとめとゲスト番組紹介

ありがとうございますいっぱい褒めていただいて

本当に本当に私は全然仕事には関係してない仕事だけど

すごく楽しく聞いていますので

これからもちょこちょこプラントライフの番組に遊びに

スポッティファイ上で遊びに行って聞くと思いますのでよろしくお願いしますこれからも

ぜひよろしくお願いしますありがとうございます

あとさっきちょっと気づいたんですけど

noteのどの画像だっけと思ってかねまるさんのnoteを見てたら気づいたんですけど

しゃべり足りない部に遊びに来ていただいてる回でポケモンの話とかをしてるんですけど

私も夢水清志郎シリーズめっちゃ読んでました

全然覚えてないけどすごい読んでたと思って言わなきゃと思って今思いました

ありがとうございます

まいこうさんの番組の方でいっぱいコンテンツの話をしたんですよね

本当に雑談でノープラン雑談をしようということで

かねまるさんといろんなコンテンツ話をして楽しませていただきました

こっちの番組の方だとあんまりこういうコンテンツの話とかしないと思うんで

ぜひ今回はまいこうさんの方も聞いていただきたいですね

ぜひぜひ皆さんプラントライフ聞いていらっしゃる方が遊びに来たら

まいこうばっかり話してるじゃんってなるかもしれないけど

何とすみませんというのと

あとかねまるさんの漫画やゲームやアニメなどの話をちょこちょこ

同世代で楽しんだコンテンツの話みたいなのをしてるので

ぜひぜひよかったら遊びに来てください

しゃべり足りない部の部室にもぜひお越しください

はいですね

そしたら最後にまいこうさんの番組とか何か紹介したいところとかあれば

最後にお願いします

はい

しゃべり足りない部という番組を配信していまして

現在は不定期配信となっているんですけれども

その時々気になったこととか話したいこととか

ずっと思ってたんだけどみたいないろんな雑談を

日々というか最近はちょっと更新頻度はそんなに高くないんですが

出しているような感じになっています

あとはちょこちょことXに告知を出している

雑談系ポッドキャストの日というのを不定期配信していますので

かねまるさんにも何回もご参加いただいているのですが

雑談系ポッドキャストの日雑ポデも

季節ごとぐらいのイメージで不定期に今後もやりますので

よかったらそちらもよろしくお願いします

ありがとうございます

そうしたら今回はしゃべり足りない部からまいこうさんにお越しいただきまして

あとそうだ最後にこの番組いいなって思っていただけたら

ハッシュタグプラントライフをつけて発信していただきたいのと

あとはしゃべり足りない部のハッシュタグだけ

すいませんちょっとすごい漢字かな表記が紛らわしい番組名で

ちょっといつも皆さんに申し訳なく思っているのですが

番組のハッシュタグは私は

ハッシュタグしゃべり足りない部またはハッシュタグしゃべたり

でハッシュタグしゃべり足りない部は

しゃべりがひらがなたが漢字の足

満足除くりないがひらがなで

部が部室の部部屋の部です

短い方のハッシュタグしゃべたりは

5文字なんですけどしゃべがひらがなたが漢字の足

りがひらがな漢字は足だけですこっちは

はいということでちょっと紛らわしくて申し訳ないのですが

よろしくお願いします

はいありがとうございます

そしたら今回はしゃべり足りない部から

まいこうさんにお越しいただきましたありがとうございました

はいありがとうございました