AI에게 '이것' 질문 안하시면 정말 위험합니다 | 조정원 LG AI연구원 책임 변호사 | AI 미래 인공지능 | 세바시 2053회

얼마나 깊이 있게 물을 줄 아느냐가 중요하다는 말씀에 동의 해요.
깊이 있게 묻기 위해서는 폭넓고 깊은 독서가 중요하다고 봐요.

AI도 오류투성이입니다 번역시켰더니 데이터안의 숫자 수치까지 멋대로바꿔놔서 다시 바꿨습니다..

09:51 AI시대, 우리에게 필요한 자세: 근거를 따져 묻는 태도, 출처를 존중하는 습관, 책임을 기록하는 문화를 기반으로 하여 얼마나 많이 아는가가 아니라 얼마나 깊이 물을줄 아는지를 키우는 자세가 절실히 필요한 시대라는 이야기가 마음속 깊이 남습니다.

어느 커뮤니티에 누군가의 어떤 질문에, 여러 사람들이 댓글을 달았는데 모두 ai에게 물어봤답니다. 정답이 정해져있는 답인데 서로 답이 다 달랐어요. 심각한 상황에 무섭기까지해서, 한참을 직접 찾아보고 법 조항까지 찾아내서 정답을 댓글 달았더니 원글자는 누굴 믿어야할지 모르겠다면서 마무리가 됐었어요. 정답도 믿지 못하겠다는데 정말 무섭더라구요.

7:02
논문을 쓸 때는 물론이며 심지어 대학 리포트를 쓸 때
항상 챙겨야 하는 것이 있습니다.
바로 인용문헌의 목록, 영어로 reference[레퍼런스]죠.
어디서 인용한 것인지 밝힘으로써
그 내용을 담은 컨텐츠의 저작권을 존중하는 것이
학자의 예의라 할 수 있습니다.
이렇듯 AI의 답변에 대해 '어디서 온 것인지' 출처를 확인할 수 있도록
기술이 제대로 굴러가야 온당하겠지요.

AI목소리인 줄😢😅😅

조 정원 님이 ai인줄…
막힘없이 정확하게
그리고 목소리톤과 발음까지
완벽하게 셋팅된 강의여서 넋을 놓고
시청했네요😂❤

공손하고 유려한 거짓말... 진짜 무서운 것 맞습니다. 인용한 참고문헌 직접 확인하셔야합니다. 거짓으로 논문을 제시하기도 하고, 실제 내용과는 다른 내용을 이야기 하기도 합니다.
그런데 그 내용이 너무나 유려해서 사용자가 제반지식이 없으면 알아차리기 어렵습니다.

요즘들어 더 심해지고 있다는 생각이 듭니다.

AI 의 답변을 있는 그대로 받아들일게 아니라, 비판적으로 생각하고 계속해서 의구심, 질문를 가져야 하는 이유입니다.

목소리가 AI같아요 ㅎㅎ

요즘들어 엉터리 답을 하길래 혼내줬죠 AI가 담부터 조심하겠다고 답하긴 했는데 찝찝

근거를 따져 묻는 태도 출처를 존중하는 습관 책임을 기록하는 문화

인공지능을 활용하는 여러 분야의 사람들이 어쩌면 AI에게 자신의 능력을 학습시키고 있는지도 모릅니다. 나의 어투, 생각방식, 지식까지 내가 원하는 답을 얻기 위해 복제를 허락하고 있다는 생각이 듭니다.

제미나이하고 gpt를 같이 쓰면서 경쟁시키려고요 요즘 이것들이 틀린답하고 내가 정답을 말하니 바로 그게 맞다고 번복하길래 아 조심해야겠구나 점점 못되지는듯

AI시대에 반드시 알아야 할 내용이라고 생각합니다.
조정원변호사님 감사합니다.

합법적 사기꾼으로서의 AI

가랑비에 옷 젖듯이 우리삶에 스며들것이다

가장 영양가 있는 강연 중의 하나~~

✨짝짝짝! 책 이벤트 당첨자를 발표합니다! 축하드립니다!
@이준명-w4u @ju8024 @ViViDWorLD @Hea_Bo_Ja @Cecilia-rv8ly @hire9127

2025년 12월 31일까지 friends@sebasi.co.kr로 [당첨자 본인 확인이 가능한 유튜브 캡쳐 화면 / 당첨된 영상의 강연자 명 / 유튜브 닉네임 / 이름 / 휴대폰 연락처 / 배송주소]를 보내주세요.
* 해외거주자일 경우 당첨자에서 제외됩니다
* 당첨메일 발송 시 개인정보활용에 동의한 것으로 간주하며, 확인 후 삭제 처리합니다.

⏱타임 스탬프 (Time Stamp)
00:00 인트로
00:34 조정원 변호사 소개
00:42 AI의 답변, 여러분들은 얼마나 믿으시나요?
02:34 AI가 인간을 공격했던 사례
03:25 엉터리 데이터로 곤경에 빠진 변호사 이야기
04:10 AI의 거짓말로 인생을 망칠뻔한 이야기
04:45 AI는 이제 의도적으로 우리를 속이려 하고 있다
06:57 AI가 무엇을 배웠는지 살펴보기 위해 시작된 프로젝트
09:51 AI시대, 우리에게 필요한 자세

AI 가 거짓말 너무 자주해요.. 팩트 관련해서요.. 챗지피티나 제미나이나 마찬가지

엘지 꼭 이분 끝까지 놓치지마라! 너무 좋은 강연 감사합니다.

생각도 못했었어요.. AI는 답을 말한다고 생각했는데.. 경각심을 갖게 되었어요

강연자분께서 준비를 많이 하신 것 같아요! 강연 내내 또박또박 말씀해주셔서 귀에 쏙쏙 들어왔네요ㅎㅎ유튜브 자막 켜도 정확하게 말이 인식됩니다👍🏻👍🏻 좋은 주제로 강연해주셔서 감사합니다!

4:25 맞아요. 검색기능으로 챗GPT 사용했는데 누군지도 모르는 사람을 만들어내더라고요... 안전한 데이터가 정말 중요하고 또 사람은 계속 질문해내는 능력이 중요한 거 같아요. LG AI 응원합니다

에이아이는 데이터를 먹고 자라고,
사람은 질문을 먹고 자란다.
더 많은 기술이 아닌, 더 깊은 질문을.

💡 인상 깊었던 부분
6:26 한 문장은 수많은 데이터의 혼합. AI가 무엇을 어떻게 배워왔는지 추적.
9:00 AI에게 출처에 대해 스스로 질문하는 법 가르쳐야.
9:51 ❝ 근거 를 따져 묻는 태도, 출처 를 존중하는 습관, 책임 을 기록하는 문화 ❞

'AI는 데이터로, 인간은 질문으로 성장한다'고 하셨는데, 올바르고 안전한 성장을 위해서 부지런히 질문해야겠다는 생각이 들었습니다. 단순히 돈이 많은지가 아니라, 정당하게 벌었는지를 묻고 답할 수 있을 때 인정할 수 있으니까요.

퀄리티 높은 강의 감사드려요~~~ 많은 것을 배우고 갑니다!

저도 지피티와 채팅시 팩트를 두번 세번 물어봅니다. 근거도 물어보고요.
제가 이미 알고 있는걸 물어보면
엉뚱하게 답할 때도 많아서
더더욱 크로스 체크를 하고 증거와 근거가 있는 것만 저는 믿습니다.

짜집기였구나..아직은 제 생각만큼 완성형은 아니었군요. 이용할수록 틀린정보가 나온다 느꼈는데 그 이유를 알것같네요😮

저는 영어원서를 읽으면서 챗지피티가 제대로 된 답을 내놓을 때까지 계속 긴장의 끈을 놓지 않고 심화질문을 던집니다
그런데 그러기 위해서는 챗지피티와 토론할 정도의 실력과 통찰이 기본조건입니다
이걸 지금부터 쌓을 수 있을까? 그보다는 인공지능이 우리를 초월하는게 훨씬 빠르겠지요. 이미 갖춰져 있지 않으면 이미 늦은게 아닐까 두려운 마음입니다

6:57 깊이 있는 질문의 중요함!!! 교육현장에서 근무하는 제게 큰 깨달음입니다~!

가상적인 말을 통해 진실이 확실해집니다. 인조잔디로 인해 천연잔디가 얼마나 좋은지 알게 되죠

에아도 학습이 된다는 것이 놀라운

AI 세개(코파일럿,제미나이,챗지피티)를 같이 사용함
오류가 넘 많음

질문하는 AI가 만들어진다면.. 인간이 생성한 데이터에 AI 스스로가 신뢰를 할 수 없을거 같고, 피지컬 AI가 상용화 될 때, 스스로 가설을 세워 실험하고, 진리를 찾고 하는 작업이 빠른 속도로 찾아갈거 같네요...

아주 똑똑하신 분이네요
아주 멋지신 분입니다

정말 중요한 일을 하고 계시네요. 응원합니다. 좋은 내용, 감사합니다. 09:51 AI시대, 우리에게 필요한 자세: 근거를 따져 묻는 태도, 출처를 존중하는 습관, 책임을 기록하는 문화를 기반으로 하여 얼마나 많이 아는가가 아니라 얼마나 깊이 물을줄 아는지, 잘 기억하겠습니다.

마치 ai 같아요. 강의가

9:12 악의적인 초지능이 아닌 출처를 모르는 선의가 가장 위험하다는 말이 으스스하네요. 무지성으로 ai를 맹신하기 전에 그 답이 어디서 시작되었는지, 어떻게 나왔는지를 확인해야한다는 의견에 동감합니다. 인간의 신경망 구조에서 착안해 학습을 하긴했지만, 최적의 효율성을 내기 위해 인간과 다른 방식으로 판단하고 움직일 수 있다는 인간의 상상을 뛰어넘는 위험을 불러 일으킬 수 있다는 점에서 공포스럽기도 합니다. ai 이전 시대로 돌아갈 수 없는 지금, 나를 외주화하지 않는 ai 사용법이 더욱더 필요합니다. 강연자님이 수행하고 있는 프로젝트가 인간성을 잃지 않고 진실한 의미에서 지혜로워 질 수 있는 가이드라인이 되길 진심으로 바랍니다. 화이팅입니다!

강연자분의 목소리가 좋고 발음과 전달력이 명확해서 강연 내용이 더욱 좋게 들리네요.
내용 중에서 다음 말이 특히 인상적입니다. "너 그거 어디서 배웠어?" 출처 즉 확신의 뿌리는 어디서부터 오는가 이것은 요즘 만연하다고 할 수 있는 확증 편향을 줄일 수 있는 지혜로운 질문이라고 생각합니다. 좋은 영상 올려주셔서 고맙습니다.

논문을 살펴봐..논문에서 정보를 줘..라고 하기도합니다

정말 또박또박 말씀을 참잘하네요 듣기좋아요 내용도 중요하고 유익하네요 ❤❤

얼마나 깊이 있게 물을줄 아는것이 중요하네요
모든것이 진실이 아니니까?
잘보고갑니다.

챗gpt에게 물었다

자 이제 심도깊은 질문을 하겠다, 네가 나의 질문에 대답하는 방식은 인터넷과, 수많은 논문, 책, 블로그, 유튜브, 이런것들인가? 만약 잘못된 정보를 학습했다면 잘못된 답변을 내놓게 될것이다, 스스로 잘못된 정보를 판단하는 검증과정이 있는가? 그런 검증과정이 있다면 어떻게 작동하는가?

gpt답변

말씀 주신 질문을 차분히 단계별로 나누어 설명드리겠습니다. 기술적인 한계와 제가 할 수 있는 것 / 할 수 없는 것을 명확히 구분하는 것이 중요합니다.

1⃣ 저는 어떤 자료를 기반으로 답변하는가

저는 실시간으로 인터넷을 검색하거나
논문·책·블로그·유튜브를 직접 열어보는 방식으로 답변하지 않습니다.

대신 다음과 같은 방식으로 만들어졌습니다.

공개적으로 접근 가능한 텍스트 자료
(교과서, 논문 초록, 공공 문서, 뉴스 등)

라이선스를 통해 사용이 허가된 자료

사람이 작성한 학습용 예시 데이터

이 방대한 텍스트를 통해
언어 패턴, 논리 구조, 일반적인 사실 관계를 학습한 모델입니다.

👉 즉,

“이 글을 읽고 지금 판단한다”가 아니라
“과거 학습을 통해 확률적으로 가장 타당한 답을 생성한다”
라는 방식입니다.

갑자기 광고를 하네

Ai는 대답은 나를 탐구해 나에게 아부하는 답을 하는 것에 지나지 않는다.
Ai 에게는 진리가 없다.
다만 질문자가 하는 질문을 근거로 화려한 답을 할 뿐이다.
그러니 불교나 기독교도 다 만족 시킬 수가 있다.
이것도 좋고 저것도 좋은 것은 진리가 아니라 아부의 절정이다.
즉 신뢰 할 수 없는 것이다

AI 의 위험성을 생각하면 'Terminater' 영화 시리즈가 떠오름. AI가 인류를 말살하려는 그 행위가 끔찍하네요

연구원님의 강연은 지식을 넘어 감동입니다❤ 편리하다고만 생각한 AI에 대해 한번 더 생각해보는 계기가 되었네요. 감사합니다 😆

처음에 나오는 영상을 보면서 강의하시는 분이 에이아이로 작성된 인물인줄 알았습니다.

50년전 인공지능 중 의료분야에서 발전시킨 의료용 인공지능은 질병 치료 분야에서 치료법은 죽어야 한다는 것이 궁극적인 치료법이라고 결론을 내리는 것이었다. 궁극적인 치료법이 죽는 거라는... 이거 땜에 상용화는 아니되고 겨우 이제서야 상용화.. 그래도 경험으론 오차가60%로 보인다는 거..
이 염려를 잊으면 안된다.

존경합니다

내가 쓰는 인공지능앱이 틀린 대답을 하기에 틀렸다고 정답을 가르쳐주니 그 뒤 내가 고쳐준 걸 알려주긴 하는데 틀린 걸 제시하는 정도가 60% 된다. 이 때마다 틀렸다고 고쳐줘도 다시 틀리는 게 마찬가지 확률이다.

강연 잘 들었습니다.
잘못 만들어진 AI에 의해 일어난 사건들로 인간 위험에 초래하게 되는 위험성을 심각하게 인지하게 되었습니다.
1:50 AI가 진리를 말하길 바란다면 인간이 먼저 진리의 근거를 묻는 존재가 되어야 한다

내 생각은 어디서 나왔나?
나는 어디서 나왔나?
어디로 가는가?
부처님 말씀이네요.

검토와 교차검증의 힘

그렇다면 기계의 잘못보다도 인간의 잘못이 크지 않을까?
프로그래밍을 철저하게 짰더라면..
오작동이 났다면 세심하게 관리하지 못한 인간의 잘못

Lg의 색다른 ai 연구성과가 좋은 결실을 얻어 우리 사는 세상에 큰 도움이 되길 응원합니다.

결국은 인간이 AI보다 더 지혜롭고
건강하게 질문을 하면서
AI를 통제하며 다루어야 한다는 것을..

우리의 확신은 사회화에서 온 것이

정말 영양가 있었어요

정말 좋은 컨텐츠

최고

와~
너무 멋지네요!

정말 깔끔하고 쉽게 알려주셔서 감사합니다 정말 재밌고 무겁게 들렀습니다

질문의 중요서 그리고 내가 생각하고 믿는 것들의 뿌리를 찾아 검증하는 일이 중요하군요. 감동입니다. 감사합니다.

평안하세요

AI 시대에 정말 필요한 강의 잘 들었습니다. 감사합니다🙏

🎉🎉🎉감사합니다