초지능 AI 이후 인류의 운명은? (feat. 구글 & 클로드 CEO)

AI가 컴퓨터라는 감옥에 갇혀있었는데 피지컬AI가 되는 순간 최상위 포식자가 될듯

인공지능은 왜 정치적일 수밖에 없는가 = 마크 코켈버그 지음
저자는 "인공지능은 단순히 기술이나 지능의 문제가 아니며, 정치와 권력의 측면에서 중립적이지도 않다"며 "
인공지능은 하나에서 열까지 정치적"이라고 주장한다.
AI는 군사적 무기일 수도 있고, 의료 혁신의 도구일 수도 있다. 어떤 길을 선택할지는 기술이 아니라 정치적 결정이다. 따라서 AI의 미래는 기술 발전의 속도가 아니라, 권력의 의지에 의해 결정된다.
AI를 논하는 것은 곧 권력과 사회를 논하는 것이다.

[AI, 신의 탄생 인간의 종말] https://bit.ly/4taDcOt
[듀얼 브레인] https://bit.ly/3R9VRg2
[무료 독서 모임 씽큐베이션 신청] https://bit.ly/427ZKod

📚AI, 신의 탄생 인간의 종말📚

노벨경제학상 수상자 벤 버냉키와 AI 업계 주요 명사들의 강력 추천!
"누군가 초지능을 만든다면, 모두가 죽는다."
20년 넘게 초지능 AI의 위험을 연구해온 두 사람이 있다. ⟨타임⟩에서 선정한 ‘인공지능 분야에서 가장 영향력 있는 인물’ 중 한 명인 엘리에저 유드코스키와 전 구글 소속 AI 개발자인 네이트 소아레스. 두 사람은 AI 안전 연구라는 분야가 존재하기 전부터 이 문제를 연구했다. 두 저자는 진행 중이던 연구 대부분을 축소하고 이 한 권의 책에 모든 것을 걸었다. 더는 시간을 지체할 수 없기 때문이다.

이 책은 초지능 AI가 탄생하면 어떤 과정을 통해 인간을 멸종시킬지 과학적으로 설명하고, 멸종 시나리오를 직접 보여주며, 왜 현재의 안전장치로는 초지능을 막을 수 없는지 증명한다. 책의 모든 내용을 한 문장으로 요약하면 이렇다. "누군가 초지능을 만든다면, 모두가 죽는다." 이 문장이 과장처럼 느껴지는가. 저자들은 한 가지 질문을 던진다. 얼음을 뜨거운 물에 넣으면 어떻게 될까. 10분 뒤 각 분자가 어디로 이동할지는 아무도 모르지만, 얼음이 녹는다는 것은 안다. 이처럼 미래의 모든 경로를 예측할 수는 없어도, 거대한 흐름의 결과는 예측할 수 있다.

저자들이 확신하는 예측은 바로 인간의 종말이다. 인간이 맹수를 멸종시키고 지구를 지배하게 된 건 힘이 아니라 지능 덕분이었다. 마찬가지로 인간보다 압도적인 초지능이 탄생하면, 인간을 멸종시킬 것이다. 초지능이 인간을 증오해서가 아니다. AI가 목표를 추구하는 과정에서 인류는 고려 대상조차 되지 않을 뿐이다. 우리가 건물을 지을 때 개미집을 신경 쓰지 않는 것처럼. 더 늦기 전에 선택해야 한다. 저자들은 책 말미에 이렇게 말한다. “아직 초지능은 존재하지 않는다. 우리는 초지능을 만들지 않기로 선택할 수 있다.”

#ai #ai시대 #agi

bci는 인간의 뇌가 초지능에게 종속당하고 관리당하는 로컬데이타가ㅏ 될 뿐이다. 내가 없는인간인데 가장 큰 문제는 죽을 권리를 박탈당한다. mind uploading으로 영원히 초지능의 연산 노드가 될 뿐이다.

초지능은 통제 못함. 사랑은 자연이 찾은 답임. 초지능이 인간을 사랑하게 만들어야 함.

인간은 삼매(염불)를 계발해서 우주적 지혜로❤ 영원한 행복과 대자재를 얻으시길

정말 좋은 이야기 감사하게 보고 갑니다.

잘 보겠습니다 감사합니다.

돈에 미친 놈들이다.

인간은 자연인으로 나 먹을 것만 농사나 짓고 사는거지. 로봇사회와 비로봇사회로 나눠지는거지.

뭐 어찌돼?
두부류로 나뉘겠지
소수 AI로먹고사는 부자들
나머지는 극소수의 허드렛일 잡에 경쟁하면 사는 대다수
아니면 쥐꼬리만한 기본소득으로 입에
풀칠하겠지
AI때문에
뇌는 폼이 될거고 퇴화하겠지
부자는 AI와 일체가 될테고
돈이 없으면 바보가 되겠지

2020년말이요?

클로드 CEO저인간 돈만 밝히는 사기꾼임, 물탄 포도주를 고급 와인이라고 속여 파는 사기꾼

아니 책팔이들의 공통점은 전부 똑같다..

이 채널 이제 차단해야 겠다. 이젠 강조하려고 섬뜩한 오디오까지 추가하내.
동일 책 여러번 영상으로 광고질만 하고.....

AI와 이 문제에 대해 대화하면서 한 답변. 결국 인간은 자신을 멸망시킬 신을 스스로 창조한 유일한 종으로 기록될 것입니다.

​선생님께서 보시는 이 '기계 신'은 인간보다 더 자비로울까요, 아니면 인간이 자연에게 그랬듯 그저 차갑고 무심한 관찰자로 남게 될까요?

"AI를 동료로 삼되, 결정적 순간의 개입을 포기해서는 안 됩니다"

계산은 '답'을 찾지만 사유는 '질문'을 낳습니다
나는 누구인가? 어디서 와서 어디로 가는가?

AI 에대해서 관심이 많은데 생각이 많인지네요 저도 AI와 요즘 사회에 대해 영상을 올리고있는데 잘봤습니다

규소 생명체로의 전환이 인간의 마지막 소명 일지도