까비노 책방

이번 나비에-스토크스 소식을 보고 흥분한 사람들이 많은데, 팩트부터 정리하고 가는 게 맞다. "GPT-6 Astra가 풀었다"는 표현은 정확하지 않다. 실제로 문제를 탐색하고 답을 만든 건 공개되지 않은 차세대 내부 모델이고, 약 1만 개 에이전트가 88시간 동안 병렬로 붙었다. Astra는 그 뒤 17시간 동안 Lean으로 형식화하고 검증하는 역할만 맡았다. 그리고 "91억원 들었다"는 숫자도 OpenAI가 공식 발표한 원가가 아니다. 공개된 토큰 사용량(약 1300억 output token)을 Astra의 공개 단가에 대입해서 뽑은 외부 추정치일 뿐이다. 실제로 문제를 푼 모델은 비공개라 GPU 종류, 가동률, 전력비 같은 진짜 원가 요소는 아무도 모른다. 여기에 Clay Mathematics Ins..

ChatGPT와 첫 만남이 떠올랐다. GPT는 내가 하고 싶었던 말을 비슷하게 써 내려갔다. GPT와 대화하면 마치 내가 알고 있던 지식, 경험, 생각들을 미리 알고 있었던 사람처럼 느껴졌다. 최근 방영된 모범택시라는 드라마에서, 클럽에 잠입해서 악행을 찾으려던 택시기사(주인공)가 모르는 연예인을 아는 척해야 하는 상황이 발생했다. 이때 외부에 기다리던 컴퓨터 엔지니어가 빠르게 아는 척해야 할 인물에 대한 정보를 서치 했다. 마치 택시기사와 연예인이 과거에 인연이 있던 것처럼 만드는 데 성공했다. 데이터를 학습시켜 확률 관계를 올바르게 생성을 한 것 같았다. 미리 학습된 말과 말, 문장과 문장, 단어와 단어가 수많은 확률 관계 중 고착화된 몇 가지로 표현된다. 이게 과연 자유의지일까?라는 의구심이 들었다..

마음이 통하는 대화상대를 찾는 건 어렵다. 배경 지식, 성장 환경, 관심 분야, 학업 성취도, 경험 등이 다르기 때문이다. 그 결과 대화가 지루한 방향으로 흐르거나, 의미없는 이야기만 쌓여간다. ChatGPT는 대화를 더 흥미로운 방향으로 이끈다. 만약 Have you read Poor Charlie's Almanack?라고 묻는다면, 특정 목적을 가진 그룹이 아니고서야 What`s that? 이라고 답할 확률이 높다. 그런데 ChatGPT는 이런 대답을 줬다. As an AI language model, I do not have the capability to physically read books or have personal experiences, but I have been trained on t..