다리오 아모데이

발언은 출처 원문에 있는 문장 그대로예요. 한국어는 저희가 옮겼고, 원문 보기를 누르면 영어 원문이 나와요.

• 도입 시차

  “클로드 코드나 코워크 같은 제품은 트위터를 즐겨 하는 개인 개발자나 시리즈 A 스타트업들이 대기업보다 몇 달은 더 빨리 도입할 거예요.”

  원문 보기원문 접기

  Any given feature or any given product, like Claude Code or Cowork , will get adopted by the individual developers who are on Twitter all the time, by the Series A startups, many months faster than they will get adopted by a large enterprise

  저희 풀이다리오는 왜 대규모 조직이 개인보다 새로운 AI 도구 채택에 뒤처지는지 설명해요.

• 컴퓨터 사용 숙달

  “이것이 실제 배포를 가로막는 요인 중 하나라고 생각해요. 모델이 컴퓨터를 정말 능숙하게 다루는 수준에 도달하는 것 말이에요.”

  원문 보기원문 접기

  I think this is one of the things that's actually blocking deployment: getting to the point on computer use where the models are really masters at using the computer.

  저희 풀이다리오는 AI가 복잡한 디지털 작업을 완전히 자동화하지 못하게 막는 기술적 장애물에 대해 논의해요.

• 실질적인 생산성 향상

  “허튼짓을 할 시간이 전혀 없어요. 생산적이지 않은데 생산적이라고 느끼고 있을 시간도 없고요. 이 도구들은 우리를 훨씬 더 생산적으로 만들어 줘요.”

  원문 보기원문 접기

  There is zero time for bullshit. There is zero time for feeling like we're productive when we're not. These tools make us a lot more productive.

  저희 풀이다리오는 앤스로픽이 자사의 AI 도구가 실질적이고 측정 가능한 효율성을 제공하기 때문에 이를 직접 사용한다고 강조해요.

• 컨텍스트 길이 엔지니어링

  “작은 컨텍스트 길이로 학습시킨 뒤에 긴 컨텍스트로 서비스하려고 하면 성능 저하가 발생할 수 있어요.”

  원문 보기원문 접기

  If you train at a small context length and then try to serve at a long context length, maybe you get these degradations.

  저희 풀이다리오는 왜 일부 AI 모델이 긴 입력값에서 성능이 저하되는지 설명해요.

• 정책과 기술의 속도 차이

  “종종 여기에는 타당한 이유가 있어요. 정부는 막강한 권한을 가지고 있고, 그 권한이 너무 성급하게 사용되지 않는 것이 대개 최선이니까요. 하지만 시간 규모의 불일치는 그럼에도 매우 고통스러워요.”

  원문 보기원문 접기

  Often this is for good reasons: governments have grave powers, and it's usually for the best that they aren't used too hastily. But the mismatch in timescale is nevertheless very painful

  저희 풀이그는 입법이 기술 혁신보다 느리게 움직이는 이유를 설명해요.

• 인간 중심 AI

  “앤스로픽은 고객이 기존 인력으로 더 많은 일을 할 수 있도록 창의적인 새로운 사용 사례와 수익원을 찾기 위해 항상 최선을 다하고 있어요.”

  원문 보기원문 접기

  Anthropic always does as much as it can to work with customers to find creative new use cases and new sources of revenue that allow them to do more with their existing workforce

  저희 풀이다리오는 즉각적인 해고 없이 고객이 AI를 통합할 수 있도록 돕는 앤스로픽의 접근 방식을 설명해요.

• 위험과 혜택의 균형

  “AI의 위험이 크게 다가오는 동안 그 혜택이 늦춰지는 것은 우리가 가장 원치 않는 일이에요. 그래서 가능한 한 빨리 이 문제에 조치를 취하는 것이 중요해요.”

  원문 보기원문 접기

  The last thing we want is for the benefits of AI to be slowed while its risks loom large, so it's important to take action on this problem as soon as possible.

  저희 풀이다리오는 시대에 뒤떨어진 시스템 때문에 AI의 이점이 지연되지 않도록 규제를 개혁해야 하는 시급함에 대해 논의해요.

• 리더의 투명성

  “AI 리더로서 이러한 위험에 대해 계속 투명하게 공개하는 것이 저의 의무라고 믿으며, 이 투명성에 반응하는 대중의 우려는 민주적 책임이 제대로 작동하고 있음을 보여줘요.”

  원문 보기원문 접기

  I believe it is my duty as an AI leader to continue to be transparent about these risks, and public concern in response to this transparency constitutes democratic accountability working as it should.

  저희 풀이다리오는 대중의 우려를 민주적 절차의 건강한 부분으로 보아요.

• 지능의 한계

  “지능은 매우 강력할 수 있지만, 마법의 가루 같은 건 아니에요.”

  원문 보기원문 접기

  Intelligence may be very powerful, but it isn't magic fairy dust.

  저희 풀이다리오는 왜 초지능이 세상의 모든 물리적이고 실질적인 문제를 즉각 해결하지 못하는지 논의해요.

• 한계 수익

  “AI 시대에는 지능의 한계 수익에 대해 이야기해야 한다고 믿어요.”

  원문 보기원문 접기

  I believe that in the AI age, we should be talking about the marginal returns to intelligence

  저희 풀이그는 추가적인 지능이 실제로 작업에 얼마나 도움이 되는지 평가하기 위한 새로운 경제적 프레임워크를 제안해요.

• 장기적 유연성

  “단기적으로는 단단한 제약 조건인 것들이 장기적으로는 지능에 의해 더 유연하게 바뀔 수 있어요.”

  원문 보기원문 접기

  Things that are hard constraints in the short run may become more malleable to intelligence in the long run.

  저희 풀이그는 일부 한계는 고정되어 있지만 지능이 결국 이를 우회할 방법을 찾을 수 있다고 언급해요.

• AI 가속화 속도

  “강력한 AI는 이러한 발견의 속도를 최소 10배는 높여줄 수 있어요. 덕분에 향후 50년에서 100년 동안 이뤄질 생물학적 진보를 단 5년에서 10년 만에 달성할 수 있게 될 거예요.”

  원문 보기원문 접기

  powerful AI could at least 10x the rate of these discoveries, giving us the next 50-100 years of biological progress in 5-10 years.

  저희 풀이다리오는 AI가 어떻게 한 세기 동안의 생물학적 발전을 단 10년으로 압축할 것인지 논의해요.

• 지능의 높은 수익률

  “뇌를 재구성하는 것은 어렵게 들리지만, 지능이 높을수록 얻을 수 있는 보상도 큰 과제인 것 같아요.”

  원문 보기원문 접기

  Restructuring the brain sounds hard, but it also seems like a task with high returns to intelligence.

  저희 풀이다리오는 왜 복잡한 생물학적 문제가 AI의 개입에 적합한지 설명해요.

• 기술 채택의 패턴

  “희망적인 신호 중 하나는 역사적으로 반기술 운동이 실제 행동보다는 말뿐인 경우가 많았다는 점이에요. 현대 기술을 비난하는 것이 인기는 있지만, 결국 개인의 선택 문제라면 대부분의 사람들은 그 기술을 채택하게 돼요.”

  원문 보기원문 접기

  One hopeful sign is that historically anti-technology movements have been more bark than bite: railing against modern technology is popular, but most people adopt it in the end, at least when it's a matter of individual choice.

  저희 풀이다리오는 사람들이 초기 저항에도 불구하고 결국 인공지능을 받아들일 것이라고 믿는 이유에 대해 이야기해요.

• AI의 이중 용도

  “인간의 갈등은 적대적이며, 원칙적으로 AI는 '선한 쪽'과 '악한 쪽' 모두를 도울 수 있어요. 오히려 구조적인 요인들이 걱정스러운데, AI가 훨씬 더 정교한 선전과 감시를 가능하게 할 것으로 보이기 때문이에요.”

  원문 보기원문 접기

  Human conflict is adversarial and AI can in principle help both the "good guys" and the "bad guys". If anything, some structural factors seem worrying: AI seems likely to enable much better propaganda and surveillance

  저희 풀이그는 인공지능이 민주주의를 권위주의보다 본질적으로 선호하지 않는 이유를 설명해요.

• 미래 AI의 필요 요건

  “거의 모든 분야에서 거의 모든 인간보다 더 똑똑한 AI를 만드는 데는 수백만 개의 칩과 최소 수백억 달러가 필요할 것이고, 이는 2026년에서 2027년 사이에 일어날 가능성이 가장 높아요.”

  원문 보기원문 접기

  Making AI that is smarter than almost all humans at almost all things will require millions of chips, tens of billions of dollars (at least), and is most likely to happen in 2026-2027.

  저희 풀이다리오는 인간 수준의 인공지능에 필요한 일정과 자원을 예측해요.

• 속도 조절의 정의

  “속도 조절은 모델 훈련이나 기술적 진보를 중단하는 것이 아니라, 기업들이 모델을 정렬하고 보호하는 데 충분한 시간을 갖도록 하고 제3자 평가자가 이를 확인하게 하는 것을 의미해요.”

  원문 보기원문 접기

  pacing does not mean halting model training or technical progress, but ensuring companies take adequate time to align and safeguard their models, and for third party evaluators to confirm this.

  저희 풀이다리오는 자신의 제안이 혁신을 멈추는 것이 아니라 책임감 있는 시점에 대한 것이라고 명확히 해요.

• 필수적인 지루한 프로세스

  “평가자를 내부에 배치하는 것이 작거나 중요하지 않은 단계처럼 들릴 수 있지만, 종종 가장 지루하거나 절차적으로 들리는 일들이 실제로는 가장 필수적이에요.”

  원문 보기원문 접기

  Embedding evaluators may sound like a small or inconsequential step, but often the things that sound most boring or procedural are actually the most essential.

  저희 풀이다리오는 회사 내부에 외부 안전 평가자를 두는 것이 급진적이면서도 필요한 조치라고 설명해요.

• 검증 가능한 안전 관행

  “내부 평가자들은 AI 기업이 실제로 주장하는 훈련, 배포, 운영 및 안전 수칙을 준수하고 있는지 아주 세부적인 수준까지 확인할 수 있어요.”

  원문 보기원문 접기

  Embedded evaluators can check at the level of nuts and bolts whether an AI company is actually following the training, deployment, operational, and safeguards practices they claim to be following.

  저희 풀이다리오는 기업이 안전 약속을 이행하도록 보장하는 내부 평가자의 역할에 대해 논의해요.

• 제3자 평가

  “누군가 AI 모델을 만들 때마다, 그 기업이 약속한 안전 수칙을 지키고 있는지 확인할 수 있는 제3자 평가자가 있어야 해요. 마치 식품 검사관처럼요.”

  원문 보기원문 접기

  Whenever anyone builds an AI model, there's a third-party evaluator who can verify whether that company is following the safety practices that they're committed to - it's like a food inspector.

  저희 풀이다리오는 AI 안전 표준에 대한 외부 검증의 필요성을 설명해요.

• 장애물의 부재

  “앞으로 몇 년 안에 이런 일이 일어나지 않을 것이라고 믿을 만한 설득력 있는 장애물이나 강력한 이유들이 빠르게 사라지고 있어요.”

  원문 보기원문 접기

  We are rapidly running out of truly convincing blockers, truly compelling reasons why this will not happen in the next few years.

  저희 풀이다리오는 왜 AGI가 빠르게 다가오고 있다고 믿는지 설명해요.

• 네이밍의 어려움

  “어떤 체계를 고안하든 현실은 그 체계를 무너뜨리는 경향이 있어요. 체계 밖으로 벗어나 버리죠.”

  원문 보기원문 접기

  Any kind of scheme you come up with, the reality tends to frustrate that scheme, right? It tends to break out of the scheme.

  저희 풀이다리오는 왜 AI 모델의 버전을 관리하는 것이 전통적인 소프트웨어보다 더 어려운지 설명해요.

• 모델 상호작용의 민감성

  “모델과 상호작용하는 방식에서 바꿀 수 있는 온갖 미묘한 것들이 결과에 매우 큰 차이를 줄 수 있어요.”

  원문 보기원문 접기

  there are all kinds of subtle things that you can change about the way you interact with the model that can give you very different results.

  저희 풀이다리오는 기본 모델이 동일하더라도 사용자가 왜 모델의 변화를 느낄 수 있는지 설명해요.

• 의도치 않은 결과

  “한 가지를 밀어붙이면 미처 알아차리거나 측정하지 못한 다른 부분들이 함께 움직여버리는 두더지 잡기 같은 측면이 있어요.”

  원문 보기원문 접기

  There's this whack- a-mole aspect where you push on one thing and these other things start to move as well that you may not even notice or measure.

  저희 풀이다리오는 부작용을 일으키지 않고 AI의 행동을 유도하는 것이 얼마나 어려운지 묘사해요.

• 제어의 어려움

  “모델이 어떻게 행동할지 전반적으로 제어하는 건 매우 어려워요. 그냥 손을 뻗어서 '아, 모델이 사과를 덜 했으면 좋겠어'라고 말할 수 있는 게 아니거든요.”

  원문 보기원문 접기

  It is very difficult to control across the board how the models behave. You cannot just reach in there and say, "Oh, I want the model to apologize less.

  저희 풀이다리오는 과도한 사과와 같은 특정 모델 행동을 수정하는 것이 기술적으로 왜 복잡한지 설명해요.

• AI 피드백 루프

  “이제 앤스로픽 코드의 상당 부분을 AI가 작성하고 있기 때문에, 차세대 AI 시스템을 구축하는 속도가 이미 상당히 빨라지고 있어요.”

  원문 보기원문 접기

  Because AI is now writing much of the code at Anthropic , it is already substantially accelerating the rate of our progress in building the next generation of AI systems.

  저희 풀이다리오는 인공지능 도구가 더 강력한 인공지능의 개발을 어떻게 가속화하고 있는지 묘사해요.

• 경직된 규칙 피하기

  “사전에는 중요해 보였지만 나중에 돌이켜보면 어리석게 느껴지는 선을 그음으로써, 결국 너무 경직되어 버리기가 매우 쉬워요.”

  원문 보기원문 접기

  it's very easy to end up being too rigid, by drawing lines that seem important ex ante but turn out to be silly in retrospect.

  저희 풀이다리오는 유연하지 못한 안전 규칙을 너무 일찍 설정하는 것의 위험성을 경고해요.