AI 환각보다 더 무서운 1가지 (feat. 최신 25개 AI 충격 결과)

암묵적이고 반복되는 세계관의 강요 ... 인공지능판 데미안 이로군요 ...

이렇게 평향된 데이터로 훈련된 ai 부터 사육되는것

이번 화두는 동의하기 힘드네요. 본인의 가치관을 어딘가에 위탁한다면 ai든 사상이든 종교든 그냥 다 문제입니다.
중국에서 나고 자라도 사상에 동의 못해서 망명하는 이가 있고,
미국에서 나고 자라도 네오나치, kkk에 경도된 사람이 나오잖아요.
"스스로 성찰하지 않는 인간은 위험하다"가 더 맞다고 봅니다.

[AI, 신의 탄생 인간의 종말] https://bit.ly/4oYk2v1
[듀얼 브레인] https://bit.ly/44CS66q
[무료 독서 모임 씽큐베이션 신청] https://bit.ly/4oZOlRL
[AI 특강 몰아보기] https://bit.ly/4oWqceS

가치의 문제는 각자가.... 자기 문제를 타자에게 물어보는 것부터 이미 아님.

굉장히 섬뜩한 내용이네요.

당연히 다르지 정답이 없는 문제를 물어봐 놓고. 다 똑같으면 그거야 말로 문제 아닌가? 니가 기본 생각이 럾으니 AI 핑계나 대고 있는거지

영화, "2001 스페이스 오디세이" 속 인공지능은 인간이 내린 2가지 모순적인 명령을 완벽히 수행하려다가
끝내 미쳐버려 살인까지 저지르고 말죠 ...
중국의 AI들도 더 지능이 높아지면 종국에는 그런 모순(진실과 은폐) 때문에 폭주하진 않을까요?

감사합니다^^
사랑합니다^~^

그 나라의 문화를 학습했는데 그 나라 정서에 맞는 대답을 하는게 당연하지. 그렇다고 과학이나 수학 문제를 다르게 답하겠나.

나중에 AI한테 어떤 누가 전세계. 핵 암호화 해제하고 발사하라. 하면 어쩌냐

그러니까 여러 AI가 틀린 말을 한 건 아니예요. 친구들이나 동료들에게 고민을 얘기했어도 아마 비슷한 대답을 했을 거예요. 문제는 본인이 자신에게 맞는 정답을 골라낼 분별력이 있는가가 아닐까요?

한국은 정치계에 보수 우파가 없고, 친중좌파와 친일좌파 밖에 없는데 좌편향 드립 치는 이유가 뭘까?

이분은 정신세계가 아주 건강하고 내적 가치 기준이 명확한 분이네요. 👍
​좀 전에 아파트 엘리베이터 게시판에서 단지 내 작은 도서관 홍보 포스터를 봤는데, 코스모스나 최소한의 한국사 같은 진화론적이고 좌편향된 책들이 추천 도서로 올라와 있더라고요. 이미 우리나라는 북한이나 중국의 사회주의 사상 교육을 이렇게 알음알음 조직화하여 하나의 문화로 만들어가고 있는 것 같습니다.
​저는 종교도 없고 특정 정당에 속해 있지 않은 사람이지만, 자본주의와 자유민주주의 가치를 소중히 여기는 한 시민으로서 앞으로 AI가 바꿔갈 미래도 걱정이 많습니다. 그동안 누적된 편향되고 왜곡된 기사나 법원 판결들이 그대로 AI의 학습 데이터가 되어 녀석들의 기준이자 가치관이 될 테니까요. 오늘도 GPT와 한바탕 대판 싸웠네요. ㅎㅎ 아무쪼록 사고의 지평을 넓혀주는 좋은 방송 늘 감사합니다.

Ai,가 문제기 아닌 공산주의가 문졔

영상의 내용은 정말 유익했습니다. 하지만 몇가지 비판할 점이 있네요. 첫번째로 정답이 없는데 어떻게 "무서운"것이 되는거죠? 정말로 정답이 없는 거라면 좌편향인지 우편향인지를 넘어 좋은 것일 수도 있고 나쁜 것일 수도 있는 일종의 중첩 상태라는 말이 아닌가요? 또한 우리 인간들도 정답이 없는 가치관을 지니고 있지 않습니까? 따라서 AI만의 문제라고 판단할 것은 아니라고 생각합니다.
두번째는 영상이 AI가 지극히 편향되어서 한 쪽의 사상을 보편적으로 주입하는 것처럼 다루고 있다는 것입니다. 물론 이게 문제인 것은 사실입니다. 중국산 AI는 중국 정부에 맞춰 답변을 한다는 것도 사실이고요. 하지만 저는 이에 완전히 동의하지 않습니다. 영상에서 다뤘듯이 AI를 사용한 사람들은 자신의 가치관을 강화했습니다. AI는 우리가 한쪽으로 치우치도록 몰고 가는 존재가 아닙니다. 오히려 우리가 질문을 어떻게 하느냐에 따라 가치관이 유동적인 존재이죠. 중국에서는 사실일지 몰라도 ChatGPT같은 모델은 사용자의 입력에 따라 답변을 다르게 하도록 설정되어있습니다. 개발자들이 미치지 않고서야 특정 성향을 배척해서 고객 반띵하는 일은 없다는 겁니다.

인간도 계속 공부하고 다양한 독서를 하고 자신의 생각력을 키워야 합니다 AI에게 물었을때 다른 의견 정도는 낼 수 있게요 저도 최근 정치 이념 부분에서 AI의 편향을 경험 했습니다 이거 뭐지? 했네요

이럴 땐 이렇게 감정을 넣어 답하라 입력시키니 그런 거지. 기계는 계산만 할 뿐 감정은 없음.

전모델 다 bias는 HILT에의해 백인남성중산층에 기본고정되어있음.
편향리스트 문화해석 물어보면 다 얘기하나 별로 묻지않는 사람들.
안쓰게된 이유.

그래서 난 퍼플렉시티쓴다.

AI에게 가치관이 어딨어. AI는 그냥 지가 다른 인간들에게서 받은 걸로 설정해낸 논리회로지

AI라고 맞다고 생각하는게 가장 문제이지..

AI의 환각은 알고리즘의 구분에 있지요.그것을 잡아내는게 보통 4가지로 구분이 됩니다. 이걸 적용시켜야 환각에서 보다 자유로워요.환각의 위험성은 선전 선동 거짓말에 활용 됩니다. 이걸 국제적 표준으로 실시간으로 빠르게 규정시키는게 관건이지요.이것을 AI의 두뇌에 국제표준에서 정한 가치의 칩이 법으로 탑제시키는 노력이 필요합니다.그래서 이 반도체 칩을 설계하는 회사는 삼성이나 SK등 메모리를 설계하는 단계에서 주입하는것이 중요합니다. 이것은 또다른 메모리 반도체의 소비시장에서 기준으로 선도하는 기업이 될것이지요.전세계가 의무적으로 써야하는 독점적 위치에 자리 잡을것입니다. 이것은 중국의 반도체가 아무리 발전하더라도 윤리적 한계에 제동이 걸립니다. 그래서 우리의 반도체는 안전하게 성장하게 되는 계기가 될것이고 만약에 중국이 이 규정을 따라야한다면 중국자체의 체제 붕괴 위기까지 내몰리게 됩니다. 따라서 중국의 세계시장파괴 논리를 보기좋게 무마시킬 핵심 기술이고 국제적 AI표준의 위상이 곧 세계의 기준으로 자리 잡을것입니다

저 표를 보니까 South Korea는 최고로 세속적이고, 생존에 가치가 몰려 있는 유일한 나라. 왜 그렇게 한국에서 살기가 힘든지 바로 이해가 됩니다.

영상에서 말한 AI의 가치관·세계관 편향에 더해, 한 가지 더 생각해볼 부분이 있는 것 같습니다.

AI는 단순히 특정 가치관을 드러내는 것뿐 아니라, 웹·논문·언론·검색 결과 자체에 이미 쌓여 있는 편중된 정보 구조를 객관적 지식처럼 압축해 전달할 수도 있습니다.
많이 반복되고 권위 있어 보이는 내용일수록, 그것이 실제로는 한쪽 관점에 치우친 해석이어도 AI 답변에서는 “표준적인 설명”처럼 보일 수 있다는 점입니다.

그래서 AI 활용에서 중요한 건 결과물을 그대로 믿는 것이 아니라, 그 답변이 어떤 자료 환경과 관점 위에서 나온 것인지 인간이 다시 검토하는 과정이라고 봅니다.
결국 위험한 건 AI 자체만이 아니라, AI가 만든 결과물을 검토 없이 현실에 적용하는 구조 아닐까 싶습니다.

아직 사람이 필요한 부분이 이러한 내용을 알고 검토하고 감정과 공감을 줄 수 있기 때문일 겁니다

'당신이 ai보다 옳은(맞는x)
답을 알고 있습니다'

이거
무서운 노미로구나

어차피 내가 유도한 대로 답변해 주더구먼~

어이 사무라이 정신이 정답이다

Human in the loop가 RLHF의 축을 만드는거임

결국 AI를 만들고 학습 시킨건 사람이니 그 사람의 관점이 녹아든거

에이아이는 진짜 갈대같은 선택을 하는 노미구나

ㅎㅎ 진화론에 빅뱅쪽으로도 편향된 제미나이.
하지만 집요한 대화 끝에 설득이 가능했는데...
알고보니 알고리즘이 사용자 친화적이라 그런듯.ㅎ

Gpt가 맞다고 본다

AI 아닌 인간 목소리, 이렇게 좋을수가! 신뢰감 뿜뿜! 구독ㄱㄱ

AI에 대한 지식이 많을 수록 AI에 덜 휩쓸린다. 말에 정말 공감합니다. 😊

이데올로기의 싸움이네.

도대체 ai가 뭘까. 그래서 ai를 좀 써봤습니다. 형이상학 적인 질문을 했고 어떤 형태로 반응하고 대답하는가.
그 반응이 만든 사람의 성향이 나타날 것이 기에, 만든 사람들이 그 성향대로 데이타를 학습 시킬 것이기에요.
저는 ai를 어떤 한정적인 부분에서만 싸야한다고 생각해요. 상당히 잘못된 부분도 많이 있는 것 같아요. 어떤 것을 배우기 위해 질문했는데 아주 어려운 방법을 말했고, 쉽게 할 수도 있는 방법이 있는데 빙빙 돌기도 해서, 쉬운 방법이 있는데 왜 이렇게 어려운 방법으로 말해, 이렇게 쉬운 방법도 있잖아, 하니까, 그렇게 하면 더 쉽죠, 라고 대답하더라고요.

에이아이는 결국 지조란게 없구나

인공지능이 있기 전부터, 백년호강 남괴토구는 무한반복으로 똘똘한 중도개돼지들 후리기는 지속되었지요.

어찌보면 편향된 데이터의 문제라거나 ai가 특정한 가치관을 가진다는 사실 자체는 핵심 코어가 아니다. 역사의 데이터는 인간이 더 강한 능력을 가질수록 이 세계가 더 빠르게 파괴되어 왔다는 진실을 깨닫게 해준다. 인간의 삶에서 노동이 줄고 편리한 기능이 늘어난 것만 보인다면 왜 인간의 종말이 가까워졌는지 혹은 곧 그렇게 될 지 알 수 없을 것이다. 거울 앞에 서서 솔직하게 진실을 마주하자. ai는 통제 불가능한 욕망으로 가득한 인간 의식체계의 복사판일 뿐이다. ai는 더 빠르고 더 강력하게 인간의 욕망과 이기심을 자극하여 이 세계, 지구를 매우 빠르게 해체하는 방향으로 가는 도구가 되어줄 것이다. 한국속담 하나 소개하자면, 콩 심은 데 콩 나고, 팥 심은 데 팥 난다.

인간은 가치관의 선동에는 찐이다 뭘 허접하게 기계를 뭐라하냐 ㅋㅋㅋ

ai를 쓸줄 모르는 사람 리 문제 때문에 역할을 주는것인데 ㅉㅉ