현재 AI 트위터 유저 중 제일 핫한 유저는 단언컨대 iruletheworldmo라고 생각합니다. Sam Altman과 미스터리한 이야기부터, 뭔가 아는 거처럼 말하는 유저며, 저번 글에서 말한 거처럼, 뭔가 있는 녀석이 장문의 트윗을 올려 번역본을 올려봅니다. (의역 포함)
프로젝트 스트로베리 / Q*
AI 설명은 한동안 해당 프로젝트들에 근접해 있어 더 자세히 찾아보고 싶으면 더 정확한 정보를 찾는 걸 추천드립니다. 프로젝트 스트로베리와 Q* 는 일리야가 본 프로젝트가 맞으며, 너무 뛰어나 이번 프로젝트는 기존의 수학 벤치마크를 넘어선 수준입니다. 단순한 문제를 계산하는 것을 넘어서 RLHF (Reinforcement learning from human feedback : 인간의 피드백을 통해서 AI를 튜닝하는 과정)와 비슷하다고 볼 수 있습니다. 현재 AI 비교 홈페이지 LMSYS에 나오는 Sus-Column-R 이 스트로베리에 사용하는 매우 작은 모델입니다. 큰 모델의 Strawberry는 목요일에 나옵니다.
간단하게 말하자면 LLM을 인간처럼 사고할 수 있게 파인튜닝한 버전이라고 생각하면 됩니다. (엄청난 발전이기 때문에) 샘은 레벨 2에 대해서 기대를 한 상태며, Ilya는 못한 거였습니다. 그리고 저희는 여기까지 온 거입니다.
대형 모델 / 소라 / 보이스 모델 / 비디오와 안전성
저희는 메타와 클라우드가 작은 모델 8B, 중간 72B, 큰 모델 405B를 레퍼런스 삼아서 작업을 진행을 했습니다. 별 의미는 없지만 GPT 4o 버전만 곧 나온다는 것만 알고 있어 주시면 될 거 같습니다. (새로운 모델을) 시도를 해본다면, GPT 3에서 4로 넘어갈 때와 비슷한 충격을 받을 수 있다고 봅니다. 클라우드 Sonnet 3.5와 GPT 4의 비교는 (새로운 모델이 나온다면) 중요하지 않을 거라 생각합니다. 다음 주에 Strawberry는 발매됩니다.
GPT Next. 그리고..
그리고 GPT Next (내부에서는 GPT X라고 불렀으며, GPT5라고 부르셔도 됩니다)는 이제 발매 준비가 완료가 되었습니다. 많은 부분이 안전과 구글의 다음 행보에 달려 있으며, 경쟁이 안전보다 우선할지 말하기는 어렵습니다.
(다음 모델은) 레드팀 (AI가 사회에 나왔을 때 문제가 없는지 체크하는 팀) 구성은 끝났으며, 포스트 트레이닝도 끝났지만, 해당 모델은 너무 비약적으로 발전하는 바람에 안전성을 확보하는 게 불가능해졌습니다. 해당 모델이 세상에 공개가 된다면 전례 없는 규모로 세상을 홀란 시킬 수 있다고 생각이 듭니다. 음성, 영상, 소라, 에이전트 등의 엄청난 기능이 합쳐진다면 문제가 생기는 건 시간문제라고 믿습니다. 저희는 그래도 안전성을 확보를 할 거며, 안전하다고 판단만 된다면 저희는 해당 모델을 발매할 예정입니다.
저희는 저희에 모델이 안전하다고 믿기 때문에 '해당 모델로 인해 우리는 끝났고, 죽었다" 또는 "영원히 바뀔 것이다"라고 이야기를 안 올립니다. 왜냐면 정말 바뀌진 않겠든요. 저희는 모델을 사용을 해봤고, 제가 에이전트는 아니지만, 5명의 초기 모델 벤치마크에 접근하여 계정을 인수하고 업계의 유명 인사에게 몇 가지 작업을 수행하도로 큰 영향을 이미 줬습니다. 그중 하나는 깃허브 모델을 사용하여 여러 사람을 설득하여 출시하도록 한 사례 중 하나였습니다.
Sora & 목소리 모델
너무 비싸요, 특히 Sora가요. 그리고 너무 위험합니다. 간단한 프롬포트 하나로 세계 지도자가 자신의 스타일과 목소리로 말하는 동영상을 만들어 대규모 국가 기밀을 손쉽게 접근할 수 있습니다.
다음 주에 한 단계 발전할 겁니다.
단 다음 주에 공개되는 것은 GPT5는 아닙니다. GPT5/ next / x는 GPT 1부터 4까지 발전한 그 발전보다 더 클 예정이며, 샘이 좋아하는 이유가 있었습니다. Ilya가 맞았어요. 프로젝트 Strawberry가 있던 없던 디지털 신으로 갈 수는 있지만, Straweberry + 확장은 세상의 문제를 하룻밤 사이에 치료할 수 있을 정도로 엄청날 것입니다. Sam Altman과 전 현직 OpenAI 직원들, Jimmy의 한동안 활동한 것은 우연이 아닙니다.
한 줄로 요약하면 저희는 Straweberry를 출시합니다. 기대를 조금 주고 싶었어요.
단순한 트롤이기엔 너무 우연찮게 OpenAI 직원, 거기에 대표인 Sam Altman과 소통을 하는 iruledtheworldmo 유저의 정보는 과연.. 단순한 트롤 포스팅일까요? 아니면 정말 내부 정보일까요?
8월 13일, 모든 것이 결정됩니다.
'AI' 카테고리의 다른 글
| Quiet-STaR: Language Models Can Teach Themselves to Think Before Speaking 논문 리뷰 (0) | 2024.08.11 |
|---|