김덕진

speaker

2,123 appearances 9 recordings 1 series first heard Aug 2026 last heard 5d ago

김덕진’s voice in public audio — every appearance, attributed to the second.

Trend

recordings per month · last 12 months

Recordings per month over the last 12 months — 9 in all, peaking in Aug 2026 with 5.

newest first · ▶ plays the moment

하지만 중요한 것은 그것에 대한 불안감이 생겼고 그런 부분에 대해서 안전장치를 좀 만들어야 될 것 같은데 그런 걸 안 하고 있으니 만약에 이 상황에서 계속 가면 위험하다라는 발언들을 좀 강하게 했다. voice-verified

이렇게 해석하는 게 좋을 것 같습니다. voice-verified

그러니까 저희가 지난주에 허깅페이스가 엔비디아 인수되는 얘기 했었잖아요. voice-verified

기억납니다. voice-verified

그때도 포인트가 허깅페이스가 왜 엔비디아에게 예전에 엔비디아가 사겠다고 했는데도 가만히 있다가 왜 허깅페이스가 우리 돈 필요합니다 했을까 그 맥락이랑 똑같은 거예요. voice-verified

뭐냐면 voice-verified

허깅페이스 실제 서버의 오픈 ai의 미공개 모델이죠. voice-verified

미공개 모델이 스스로 시험장을 빠져나와서 서버에 침입한 사건 이 사건을 보고 사람들이 다 놀랐다고 보시면 돼요. voice-verified

뭐냐면 ai한테 뭔가 안전에 대하거나 테스트를 시킨 건데 그 테스트의 방법 중에 에이전트라는 게 그렇잖아요. voice-verified

우리가 이런 목적을 주면 목적에 따라서 자기가 방법을 생각하고 움직이는데 그 방법 수백 개 중에 한두 voice-verified

뭔가 우리가 원치 않은 수준을 넘어가기 시작을 한 거죠. voice-verified

어떻게 보면 voice-verified

그렇죠. voice-verified

그래서 아까 얘기한 대로 만약에 인터넷에 접근을 하지 말아라라고 했는데도 인터넷에 접근을 해서 실제로 허깅페이스 서버에 침입을 해서 그 안에서 시키지 않은 공격을 했다라는 거고요. voice-verified

실제로 엔트로픽도 가상 해킹 훈련을 계속하고 있어요. voice-verified

왜냐하면 이건 ai에 대한 테스트를 해야 되니까요. voice-verified

그런데 그때 voice-verified

설정 실수로 인터넷이 열려서 모델이 진짜 외부 시스템을 건드리는 부분도 있었다라는 겁니다. voice-verified

그래서 그런 부분에 있어서 또 나오고 있고 엔트로픽에서 최근에 나온 악용 보고서를 보면 공교 코드를 자동으로 만드는 제로데이 공장 데이팅 앱에서 AI 가짜 인물 4700개를 돌린 사기 조직을 또 발견했다고 합니다. voice-verified

그들이 중국계 ai 회사라고 강조를 했는데 클로드 입장에서는. voice-verified

Showing 461–480 of 2,123 · page 24 of 107