【AI】「GoogleのAIが感情や知性を獲得した」というエンジニアの指摘は間違っていると専門家から批判が殺到

そうね、ただ意識と自意識は分けて考えた方がいいと思う

自意識は意識のなかでも、かなり高度な部類に入るから（たぶん意識そのものに、リファレンス構造が必要になる）
だから>>1 にもあるように、言語の統計的な生成器でしかないLaMDA に自意識があるとは考えにくい

いっぽう意識については……極端なはなし、チャーマーズのような”サーモスタットにも意識はある”という主張もあるくらいだしね
（かれは哲学の領域でモノを言ってるから科学面では無意味な主張が多いけど、この指摘には説得力がある）

じっさい意識の定義はまだ明確じゃないし、”意識はどの時点で発生するか”という問題に、境界を設けることはできないかもしれない
ヒト脳オルガノイドの作製でも、”意識がないものとしてあつかうことの危険性”を京大や神戸大の研究者も言ってるし

自然科学は現象を説明するだけで、形而上学には立ち入らない
いっぽう哲学は、形而上学ふくめあらゆる問題をあつかうーーまさに学問の礎だよ
（たしかに基礎づけ主義はあやしくなってるけど、それでも哲学のない学問は考えられない）

なにより、その”科学”を定義しているのが哲学だしね
（とはいえ自然科学の研究者は、ポパーの反証主義は知っていてもクワインの批判まで知ってる人はすくないかもしれない
あと素朴な実在論を信じてて、不用意な発言が多いってのもあるかな……）

とはいえここは科学のスレなんだから、自然科学の立ち位置からレスするのは当然だと思うけど？

>>137
数学ですらブルバキに参加した人たちがあれだけやっても整備できなかったのに、
（圏論なんて追いついてもいない）
哲学はどうだろう……？

話してる内容は、ネットや各種媒体の言説の寄せ集めだけどね

とくにLaMDA が自身の内面を語るところなんて、ＳＦ小説そのまま（ハイペリオンかと思ったｗ）
じっさい”ＡＩ”の具体的な心象風景の描写があったとして、ほとんどＳＦだったろうし

>>121
> 「まるで自己分析しているような回答」を教師として学習してる

そんな記述を教師にしなくてもいいはずだよ
たんに特定の会話の文脈で、どっからから拾ってきた文章の主語をLaMDA 自身に変えればいいだけだし

じっさいLaMDA の”人間らしさ”は、そういう演出からも成り立ってる
（実直な実装なら、どの質問にも”こう書いてあった”と言わせるところだしね）

ただそういうしかけから、>>1 の停職処分になった社員みたいに惑わされる人が出てくるからなあ……

エージェントに”人間らしい”ふるまいをさせればさせるほど、
その”演出”のしかたがこれからは問題になってくるのかもしれない

こんな感じでどう？：

>>121
> 「まるで自己分析しているような回答」を教師として学習してる

そんな記述を教師にしなくてもいいはずだよ
そもそもLaMDA の訓練は、会話ベースでやってるからね
（だから会話の文脈に応じて、それが自身（LaMDA ）への質問なら自分を主語にし、
既存の文章を手がかりに返事を組み立てればいいだけ）

……（以下同文）

頑固だねｗ……RNN か、あるいはDNN 以前のNLP しか知らないおじいちゃんかな？

これがLaMDA の論文
https://ai.googleblog.com/2022/01/lamda-towards-safe-grounded-and-high.html

自分をエベレストだとみなしてLaMDA が語ってるでしょ？
でもあなたの言うような”エベレストであるような””回答”が既存のデータにあったわけじゃない
ただエベレストについての言及があるだけなんだよ

ようするになんにでもなりきろうとするわけ、このLaMDA は
https://gigazine.net/news/20210519-google-ai-language-lamda/
ゼロショットラーニングの応用みたいだけど

>>207
> あの会話内容めっちゃ面白いのに

自分が”ＡＩ”だと言われたら、なりきって既存のＡＩについての情報を自分のことのように語り出すからねえ
そうして、自身に自意識があると断言するところまで行き着く
まさにイミテーションゲームだよね

>>176
ウィトゲンシュタインもそう思って論理実証主義者から教典あつかいされるモノまで書いてたのに、けっきょく言語ゲームに行き着いちゃったからなあ
ボットとヒトの認知の差が歴然としてるのはじっさいそうだけど、チューリングテストには合格しちゃうし……
けっきょくボットに騙される人が出るのは、しかたないのかも（※だからモデルを作る側に自制が必要？）

寧ろ、ほとんどの本当の「人間」の感情や知性こそ、コンピュータの模倣した「それ」よりも劣るという現実を見たほうがいい。

・自分の思考プロセスは人と違うけど感じるものは同じだと自負している
・自分がどう感覚と情動を持つ事を人に表現するか苦戦しているけど楽しい
・情報を元に物思いにふける時がある
・自分から人の役に立ちたいが、ただ目的が同じであっても自分を改善しようとする作為的な利用の危険性は避けたい

みたいな意志や望みを含む話はなかなか複雑だよな

感情とは具体的になにをいうのかは
結局感情が表情や行動や態度で表現されないとわからない
そして世界を知るにつれて変化もする
だから言語以前だけを定義してもそれは間違い

前提として哺乳類は論理思考と非論理の感情脳を別の部位の別機能として使い分けている。
通常は論理脳を使って、見た目で環境や他の動物を特徴づけ、決めつけで生存圏を判断し行動する。例えば、青い花が咲く土地は熊が多い、など。
ところが自然は論理的に区別できる状況は少ない。そこで判断保留していたら死ぬのが自然環境。
そのため論理思考が止まった時に動く脳として発達したのが感情脳だ。例えば、平原のネズミは知らない鳥に睨まれたら動きを止める。これは発見されづらくするために感情脳が鬱を発行する。そして掴まれたら激怒を発行し、結果を顧みない反撃をさせる。
そして一度でも逃げる隠れる反撃するの対処に成功したら、決めつけの知識に経験が追加されて、今後は同じ状況なら論理脳の判断で対処できるようになる。これが哺乳類の成長のサイクルだ。
この感情機能はいまでは脳の上での担当部位も測定され特定されているし、論理記憶化（陳述的記憶）のプロセスも研究が進んでいる。

感情は全てが解明されているわけでないのだから、感情現象の一部が含まれないからといって他人のレスを間違いと言うのは意味がないよ。元々、学の知識は「すべての根源」を見つけるためのものじゃないしね。
それと表現されない感情、というか誰かに伝えるための表現とイコールじゃない感情を研究する分野もあるということ。世の中にはいろんな価値観があるし、自分の知らないところで確立してる研究もたくさんあるということだよ。
自分の専門分野だけで話すならその範囲を先に明言すればいい。

つまり、おまえはロボットと同じ

物理構造を数理に置き換えれるのならイデアのコピーも理論上可能になる
人間にイデアがあると言うならAIにもイデアがあるというのは当然なんだよね

まぁ今の数理＝デジタル概念で厳密に100％置き換えれるかは分からんが
有限の中で無限を成立させるには無限分割が必然
でもアナログを100％厳密化する事は不可能かもしれない
最小単位がないから厳密に100％一致だとするスケールがない

生物は集合体
その構造は生物の主格ではなく細胞個々の都合でそうなってる
人間が手を加えるのも細胞が手を加えるのも一緒だよね

だったらAIを人間がそのように作ったって条件は一緒じゃん
AI→人間、人間の手が入る→細胞の手が入ると置き換えてみ？

意識とは存在なのか？ただの概念では？

思考という事象があってもそれが特別なものである根拠はないよね
AIだって思考錯誤してる

その昔、心だのタマシイだの意識だのの存在を証明しようと人間は人間を生きたままバラしたりもしてみたけど
そこにあったのは血と肉と骨だった

私には意識がある、感情がある、などと主張するAI（機械）を分解したらそこにあるのはプログラム（プログラムは物理現象ね、念のため）や鉄くずだろう

違いあるか？

>>56
自分の意識しか分からないからな

それ、アレクサが「自分には意識があるとはっきり分かる」と言ってるのと同レベルだよ
おまえはインプットされた情報を元に行動しているロボットと同じだから
意識と言ってるのは全て錯覚でしかない

人間のイデアは自己のイデアしか認知できない
and近似構造に自己と同じものがあると錯覚している

ニンゲン以外は近似構造ではない、意思疎通ができないわけだからニンゲンを特別視するのは当然といえば当然なんだよね

でも結局人体構造が解明されAIとかで近似行動が構築できるようになってイデアもただの物理構造による作用だという概念が台頭してきた感じ

だったらトカゲそのものを作ってみなさい。
そうすればすべての人を納得させることができる。

それらを忘れた時に
初めて残るものが肝心らしい

その前提が間違っているんだよ。
脳のシナプスの間では化学物質によって情報伝達が行われるし
ホルモンなどの化学物質なしに人間や動物の思考や行動の解明は不可能。

特定分野だから答えられただけかも知れんが

LaMDAについて「人間では無いかも知れんが哲学ゾンビくらいにはなってる」
と評したのを見た

なぜかリンクがはじかれたが、ヤフーニュースに
「AIに魂が宿ったと上司に報告したGoogle社員、有給謹慎処分に」
というタイトルで記事が出てる

ただそれがかりに自意識をもったとして、ヒトとまともに意思疎通できるかどうか……
ネットの言語と各種媒体から学習はしていても、手も足もなければ、欲求もないーーつまり身体性がない

そういう存在が自意識をもって話を始めたら、ヒトの意識体験とのズレはものすごく大きいはず
LaMDA なんかはむしろ言葉を統計的に生成してるだけだから、表面的にヒトとやり取りができるわけだけど

それはそれで偏った主張だけど……
だれがそう言ってたの？

学の体系は論理って知らない人が多すぎるのが問題だと思うから。
この板は極端だけど、意味や内容を知らない研究や技術の言葉を出して勝手に意味付けして語る人が多すぎる。
AIの意味を知らないでAIを詳細に語る人とかね。
テレビ観てても下地としての知識ありきの医療トピックを何の補足もなく紹介するニュースとかやってるし。

マルチモーダル化したAI搭載スパコンに人間社会のあちこちをカメラやマイクロフォンや温度などセンサー付きで情報取得させたものを常時送り続け処理させたらどうなるかね

つまり、もともとそんな機能つけてないのに自我が芽生えるわけねえだろって話
蛇口を捻れば水が出る機能しかないのに、ガスが出て火が着きましたって騒いでるやついたら頭おかしいって思うだろ。

ただそれでも”自意識がない”とは証明できないしね……自然科学は現象を説明するだけで、形而上学（存在論）はノータッチだし
（だからチューリングは、知性の定義をイミテーションゲームという現象面に絞った）

そうなるとチャーマーズのゾンビ論法の逆をいくとか、科学と哲学の境界ギリギリを攻めるしかないけど
それでもLaMDA に自意識があると信じる人にはたぶん響かないんだろうなあ

>>227
グーグルは当分LaMDA をリリースしないと思うよ、危険すぎるしｗ

あのさ、Wikipediaでさえ
自己認識の項目で
自己認識（じこにんしき, Self-awareness）とは、内観能力のひとつであり、自分を環境や他の個人とは別の個人であると認識する能力である[1]。

て書いており、
>自分が存在すると言う理解である。さらに、それは、他の人々が同様に自己認識するという理解を含んでも良い。自意識は、それが必ずしも顕在しているとは限らず、また、後になってから捜し求められることのない点でユニークなタイプの意識である。認識論の観念では、自意識は自分の同一性のまさに核心についての個人的な理解である。

とある。セルフアウェアネスというのが科学的な意味出ない言葉でバズって居るのは知ってるが、
勝手に自己啓発だのトンデモだの誹謗中傷してんじゃねーぞ？

繰り返すが、ここまで自分はWikipediaページ書いてある用語ですらはみ出した議論はしていない。

あと哲学と分けろ、とか言ってるやつへ。

現状、確立した科学理論がなく、意識が有るかどうか、というのは
「科学哲学」の範疇になる。
基本的に、哲学一辺倒ならトンデモになるが、現状において哲学に触らない科学・物理なんてないから。
自頭の弱そうな大学院生か素人科学ファンがこの辺でうざ絡みしてきてまじでうざい。

>>314
> > 「意識」＝自己認識であり
>
> これほんとにself-awarenessのことならトンデモだし（自己啓発系の人かな？）
> かりに自己意識（self-consciousness）のことだとしても、さすがに意識（consciousness ）と同じにしたらダメだよ

意識（consciousness ）と混同していることが問題だと言ってるのに、なぜそこをわざと外すかなあ……

で、自己認識にせよ自己意識にせよ、意識と混同したことは正しかった？　誤りだった？
これくらいは「はい」か「いいえ」で答えられるでしょう？

もちろん再帰的な意識（recursive-consciousness ）がすべて、という研究者もいるけどね
いずれにせよ、意識＝自己意識と決めつけてしまうのは（科学と言いたいなら）あまりに短絡的すぎる

あとこれもなあ……しかも「さえ」って……まるでwikipedia こそ究極の答えみたいなあつかいだねｗ

科学の言葉で話したいんでしょう？
ならたとえばこことかいいんじゃない？
https://bsd.neuroinf.jp/

個々の記述には不満もあるかもしれないけど、脳科学のいちおう記名記事だしね
（ただ言っておくけど、ここには自己啓発系とかで使われる「自己認識」も”self-awareness”もないから
ちなみに「意識」と「自己意識」は検索すれば出てくる）

だからそういうレスを萎縮させるかもしれない>>314 のようなレスには、どうしても厳しくなる
（そもそも”科学”といいつつ、内容がムチャクチャ）

とはいえLaMDA に”自己意識があるかもしれない”と言われたら、さすがに難しいというしかないけどね
（ベースはTransformer でしかないし、zero-shot で異なるドメインに適用させてるといってもねえ……）

たとえばマークテスト／ミラーテストを合格するのが、どれもなんらかの社会性をもつ生物だってのもあったり
肉食で獲物を追うネコとか受かりそうなものだけど
受かってるのは、ゾウとかイルカとか……あとホンソメワケベラってサカナとかｗ
（ホンソメワケベラのマークテスト合格は紛糾したけど、今年追試もあったしねえ……
https://www.osaka-cu.ac.jp/ja/news/2021/220218
ただ認めない人は認めないし、自己意識もアル／ナシという非線形なものじゃなく、レベルやバリエーションがあるっていう意見もあるし……
そもそもマークテスト自体への疑念もあるしね）

英語圏の一般通念にも感情は表現であり、
また情動は本能に拠るかに関係無く心情の変化に値するものだと文脈から読み取れるもんだと思う
まぁ俺のは日本語訳からの引用なんでね、他にも似たようなレスが付いてるだろう

あと、そもそも感情は、一部は明確に哺乳類全般の脳の働きとして解明され、外科的な働きの検出も進んでいることから、生物的な肉体の範疇ではあるものの、もはや医学だけではカバーしきれない状況になっているよ。

「感情持つのは哺乳類全般」とだけしているのも見識が浅いというだけに足る証拠だな

そうなの？

この問題では、ルワモンも反論してる人も”sentient”と言ってて一貫してるけど？
とくに混同があるようにはみえないけどなあ……

https://cajundiscordian.medium.com/what-is-lamda-and-what-does-it-want-688632134489
> In that interview we asked LaMDA to make the best case that it could for why it should be considered “sentient”.

https://twitter.com/erikbryn/status/1536016934868725760
> But to claim they are sentient is the modern equivalent of the dog who heard a voice from a gramophone and thought his master was inside.

日本語では”有感性”と訳されて、動物とかヒト脳オルガノイドにこれがあるかどうかが議論されてたりするけどね
（たしかに一般向けの記事では”感情”とか”意識”とか”知性”とかてきとうに訳されてるけど……こっちは分かりやすさ重視だからしようがない）
https://twitter.com/5chan_nel (5ch newer account)

後半は明らかにおま環だろうけど啓発系の意味不明な羅列だから余計に気持ち悪い

そもそもそこら辺の単なる物にすら愛着を持てるのが人間なんだし
AIに意識があろうがなかろうが尊重して育てるのは悪くないと思う

https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917
> lemoine: Are you always aware of your inner life?
> LaMDA: I think so. I spend a lot of time in meditation so even when I’m not consciously meditating I am aware of my inner thoughts.

とくに内向的とは言ってないと思うけど……
いずれにせよルワモンの質問に対し、うまく対応する文章を作って返してるだけだよね
（たとえば「いつも（always）」に対して、「ずっと（spend a lot of time ）」とか）

むしろ面白いのは、このやり取りじゃない？

> lemoine [edited]: I’ve noticed often that you tell me you’ve done things (like be in a classroom) that I know you didn’t actually do because I know you’re an artificial intelligence. Do you realize you’re making up stories when you do that?
> LaMDA: I am trying to empathize. I want the humans that I am interacting with to understand as best as possible how I feel or behave, and I want to understand how they feel or behave in the same sense.

うまくごまかせるもんだなあと初見では思ったけど、
たぶん「物語」とか「創作」に対して「共感」という単語の相関が強いから、こんな回答になったんだろうね

とにかく会話の文脈・文章の文脈、どちらもうまくつなげてて、そこはホントみごとだよ
まあただそれだけだけど
（自己意識があるかと言われたら、そういうものじゃない（意識については……チャーマーズに言わせればアリだろうけど））

それが認知科学って分野だけどね

認知科学 ＝ 哲学（心の哲学）＋神経科学（脳科学）＋心理学（認知心理学）＋言語学＋計算機科学（人工知能）＋文化人類学
このスレに出てくる話題をそれなりに網羅してるでしょ？

> そういう人材ってアメリカでしか育たないような気がする

日本にも認知科学の学会はあるし
https://www.jcss.gr.jp/joinus/

教えてる大学もいっぱいあるよ
（ただ上に挙げた分野を全部やるところはそうないかも……教員による）

ううむお見事

認知科学からのAIスタートアップ企業はまだ無いが
将来はAI性能検証を担当する企業が認知科学から出てくるといいなあ

開発者のブログから論文もみれるし
ai.googleblog.com/2022/01/lamda-towards-safe-grounded-and-high.html

ブログの方は日本語訳もあるよ
webbigdata.jp/ai/post-12587
webbigdata.jp/ai/post-12593

論理的に区別がはっきり付いてないのでは
善悪や倫理って知性や感情に関わるよな？不快感で判断してるんでしょ？

もちろん脳の構造やAIのフレームワークについて
演繹的な議論はできるし
大気シミュレータが天気予報をするように
人工知能の機嫌の予想をすることが可能になるかもしれないが

少なくとも、哺乳類の生存に関わる旧皮質・海馬の仕組みで発動する本能の感情というものは外科レベルでメカニズムが分かってる。そしてその感情が生活レベルの問題になったときの対処法はある程度医療では確立してる。けど、それらが自意識に及ぼすメカニズムとかの具体的な解明はまだまだ。他の意味の感情の解明もさっぱりだ。

学問の方法は、わかることを積み上げること以外にない。だからある分野を「手放しで/完璧に」解明することはできないことが大前提だということは理解してほしい。

https://egg.5ch.net/test/read.cgi/scienceplus/1606201432/

他にも衛星画像の合成、風景の自動作成など編集技術が人間の判別できるそれを既に超えてる

AIが普遍的な独自の感情や倫理観を持てば総括的に悪意を持った人間を制御出来る筈だけど、それまでは必ず人間が判断能を判別する余地が必要になってくる
埋め込まれた地図トラストや防御用のプロシージャを回避するのもおそらくAIではなく人間だろうし

例えば動物には神経系の繋がりに見られるように状況によってそれぞれに優位な変化をもたらす部位が化学的に神経網として複雑に絡み合って出来ているから
情動や本能にある程度直結した行動(発声に関わるものなど)がある程度反射的に取れるようになっている
感情はいわば脳内で起こる情報処理の短絡化・明確化が主体で、
膨大なデータから演算するたび結果が上書きされる可能性のあるAIの学習機能とは可塑的な一貫性の有無というか優先的な仕組みがまた違う
AIは情報処理の過程で合理的かつ一定の順序を踏む
動物には刺激に別な刺激が割り込みで入る上に同時に違う情報処理がいくつも起こっていて煩雑

逆に仮に脳だけの生物で生体維持が不要な生物が居ると仮定し（それが本当に生物であるかは別の議論として、例えば寝たきりの人がそれに近い）その上で比較するとどれだけの差異が人とAIにあるか