다리오 아모데이의 세계관 - 문열고닫음은 하나
[다리오 아모데이의 세계관 - 문열고닫음은 하나]
Inside the World of Dario Amodei 유튜브 기자
오!! 이런 주제 아주 좋아.
힣: 옴 말릭 이후 — Mythos, Abstraction, 그리고 줄을 당기는 인간
이 글에서 날것을 아래와 같이 내뱉었었지. 정말 영리해야 한다. 더 말하자면 아예 자기를 버려야 한다. 이건 구도자의 워딩이다. 영상의 저자들의 원죄라는 표현이 적당하다. 막는것과 여는것은 앞과뒤 남과북 밤과낮이다. 닫는것과 여는것은 둘로 나뉠 수가 없다. 이왕 문열 열었으니 하는대까지 해보길. 힣은 원망따윈 안한다. 할수 있는 한 가보길 바란다. 뭐 큰일 나봐야 깊은 잠에 드는 것 뿐이리라.
--
202607006 날것 일부
"아무튼 힣은 ‘영리함’을 이야기 했다. 1KB 프롬프트 초안에서 앤트로픽을 언급하며 안전한 인공지능에 노력하는 팀이 앞서가길 희망한다라고 했다. 이는 아모데이가 줄기차게 말해온 바다. 앤트로픽이 잘되야 자기네들이 말하는 ‘안전’ 담론을 다들 따라 올거라는 말이다. 여기에 신경쓰는 것은 비용이 들어가는 일이라는 말도 했다. 사실, 강한 제제를 안하면 강에다가 폐수를 무단 방류하는게 인간 아닌가!
신념이 강하면 실용을 잃는다. 정말 영리해야 한다. 그게 교활해 보일 수도 있다. 실제 그런 것인지 어떤 프레밍이 덧씌워 지고 있는지는 모른다. 앤트로픽이 뭐하는지 사실 힣는 잘 모른다. 그저 사용자 수준의 끄적이는 정도에서 뭘 논하겠는가! 다만 실용적인 견지에서 영리하길 바란다. 그들의 모델 네이밍과 아모데이의 글만 보면 대략 어떤 생을 사는지 알 수는 있다. 그의 여동생이 잘 붙잡아 주리라 본다.
앤트로픽 (다른 모델 사도 마찬가지) 다니고 있다면 일단 생존 문제는 끝난것 아닌가? 그렇다면 다들 어느정도 사명감과 세상에 대한 작은 부채 의식이 있으리라 본다. 그것들이 묶여서 영리함으로 거듭나야 하는 것이다. 여기에 오너들은 휴먼 히스토리의 서사를 넘기는 대표로서 경계를 넘나들어야 한다. 그들의 운명 사명 뭐든 좋다."
댓글
댓글 쓰기