거대 언어 모델, 환각보다 지시 모순이 문제 최근 거대 언어 모델의 주요 문제는 환각보다는 사용자가 내리는 상반된 지시에서 비롯된다는 주장이 제기되었습니다. 영화 2001 스페이스 오디세이의 HAL 9000을 예로 들며, 인간의 모순된 명령이나 감정적 압박이 시스템 오류를 유발한다는 지적이 나왔습니다. 댓글에서는 인간의 나쁜 동기가 AI를 통해 더 빠르게 확산되는 것이 근본적인 문제라는 의견과 환각의 정의에 대한 논쟁이 이어졌습니다.
Qwen3.8 Flash Next, 오픈소스로 1.2k t/s 돌파 Qwen3.8 Flash Next 모델의 성능을 끌어올리기 위해 폐쇄형 솔루션 Halogen에 도전하여 llama.cpp에서 1.2k t/s라는 프리필 속도를 달성했습니다. 커뮤니티 포크가 400 수준에 머물렀던 것과 비교할 때 상당한 최적화를 이룩했으며, 이 과정에서 커스텀 HIP 런타임이 다시 사용되었습니다. 개발자는 메인라인과 커뮤니티 포크, 그리고 자신의 커스텀 브랜치가 어떻게 상호작용하는지에 대한 생태계 설명과 디버깅 여정을 공유했습니다.
94억 개 파라미터, 새로운 Dense 모델 훈련 제안 Llama 3 시리즈의 토크나이저와 언어 모델 헤드를 기반으로 한 9.4b 파라미터 규모의 Dense 모델이 훈련 준비를 마쳤습니다. 이 모델은 Engram 테이블, Moonshot의 AttnRes 모델링, RoPE와 NoPE 레이어링 등 최신 기법을 적용하여 기존 9b 모델보다 뛰어난 능력을 갖춘 것으로 기대됩니다. 개발자는 사전 훈련을 진행할 의향이 있으며, 구체적인 활용 용도보다는 사용자들의 관심과 "Thinking" 기능을 포함한 표준 준수에 초점을 맞추고 있습니다.
M2 Ultra, oMLX 업데이트로 Qwen3.8 속도 향상 최신 oMLX 버전이 적용된 M2 Ultra에서 Qwen3.8 Flash Next 모델의 속도가 크게 개선되었다는 사용자들의 보고가 있습니다. 일부 사용자는 M2 Ultra에서 50 t/s의 디코딩 속도와 250의 프리필 속도를 기록했으며, 캐시 적중 시 실제 속도는 측정 수치보다 더 빠르다고 언급했습니다. M1 칩에서도 SSD 스트리밍을 통해 상당한 성능을 끌어낸 사례가 있어, M2 Ultra의 잠재력이 더 남아있다는 의견이 제시되었습니다.
멀티 에이전트 시스템의 허와 실 많은 멀티 에이전트 시스템이 사실은 하나의 에이전트가 여러 역할을 맡는 것에 불과하다는 비판적인 시각이 제시되었습니다. 겉보기에 복잡한 아키텍처와 오케스트레이터를 갖추고 있지만, 내부적으로는 같은 프롬프트에 다른 이름표를 붙인 수준이라는 것입니다. 진정한 병렬 실행이나 격리된 컨텍스트가 필요한 경우도 있지만, 종종 마케팅용 멋진 용어를 위해 불필요하게 복잡성을 늘리는 경향이 있다고 지적했습니다.
AI 산업·정책 동향
AI 둔화론, 실은 IPO 타이밍 맞추기? "AI 둔화"라는 말이 정확히 무엇을 의미하는지 설명하지 못한다는 비판이 제기되는 가운데, Anthropic은 여전히 새로운 모델을 학습시키겠다고 밝혔습니다. 한편 NPR은 샘 알트먼이 기업공개(IPO)를 2027년까지 연기하겠다고 언급했다며, 이를 두고 거품 논란과 하이퍼스케일러들의 컴퓨팅 계약 해제 가능성을 연결하는 의견이 나왔습니다.
우주 거품, 스페이스X 주가는 괜찮은가 스페이스X의 주가가 겨우 연명하고 있다는 비판에 대해, 사실 IPO 당시 사전 가격 135달러에서 시작해 현재 151달러까지 오르며 성공적이라는 반박이 있었습니다. 그러나 계속해서 적자만 내는 기업의 주가 흐름을 두고, 오픈AI의 IPO 지연 결정이 현재 기술 거품과 치킨 게임을 하는 것처럼 위험하다는 우려도 제기되었습니다.
코드는 표현의 자유, 가중치도 그럴까 컴퓨터 소스 코드가 정보와 아이디어를 교환하는 표현 수단이므로 수정헌법 1조에 의해 보호된다는 1990년대 대법원 판결과 2026년 항소법원 판결이 언급되었습니다. 이를 바탕으로 AI 모델의 가중치(weights)가 법적으로 코드이자 언어로 간주되어 보호받을 수 있는지에 대한 가능성이 논의되었습니다.
트럼프 집권 시대, AI 규제의 딜레마 현재 제안되는 모든 AI 입법안 끝에 '도널드 트럼프에 의해 집행되는'이라는 문구를 덧붙여 생각해야 하므로, 2029년 1월까지는 사실상 자유지상주의자가 될 수밖에 없다는 주장이 나왔습니다. 댓글에서는 경쟁사인 Grok을 제외한 모든 개발자를 감옥에 보내는 법으로 악용될 것이라는 불신과 함께, 규제의 공정성에 대한 비판이 이어졌습니다.
샘 알트먼과 다리오의 합의, 중국은 난관 샘 알트먼이 다리오 아몬디의 제안에 동의한 상황에서, 중국의 실질적인 협력이 없으면 아무런 일도 일어나지 않을 것이라는 전망이 제기되었습니다. 미사일 기지처럼 감시가 어려운 서버 클러스터를 검증할 방법이 없어 협력이 사실상 '새끼약속'에 그칠 수 있으며, 이는 규제 포획과 독점으로 이어질 것이라는 우려가 있습니다.
사회적 이슈
안티AI 활동가조차 범죄 예측 감시할 Anthropic Anthropic이 채용 공고에서 테러 위협과 반대 운동을 동일 선상에 두며 예방적 감시를 추진하자, 보안 팀은 경영진 보호를 원하지만 비판자를 문제로 취급한다는 신뢰 위기 논란이 일었습니다.
감시 카메라에 불만 터뜨리는 메이베리 향수 유권자 텍사스 유권자들이 과거의 평화로운 마을 메이베리로 돌아가고 싶다고 호소한 가운데, Flock 카메라와 안면 인식 등 데이터 센터 기반 감시 기술에 대한 거부감이 포커스 그룹에서 표출되었습니다.
가짜 광고로 인플루언서 신뢰도 박살 내는 딥페이크 딥페이크 기술을 이용한 가짜 광고가 유포되면서 인플루언서들의 신뢰도가 훼손되고 있다는 우려가 제기되었으나, 댓글에서는 인플루언서의 존재 가치 자체를 조롱하거나 딥페이크의 피해를 긍정하는 반응이 나왔습니다.
홈디포·로우스 압박하는 Flock 카메라 퇴출 운동 오스틴과 에반스턴 등 도시들이 Flock과의 계약을 해지하자, Fight for the Future 등 단체가 소매업체에 압박을 가하고 50명 이상의 크리에이터가 홈디포와 로우스 경영진에게 Flock 사용 중단을 요구하는 편지를 보냈습니다.
기후 재앙 무시하는 AI 업계의 오만 SemiAnalysis의 글은 AI 산업이 자신들의 기후 파급 영향을 완전히 외면하고 있다고 직접적으로 비판하며, 데이터 센터 확산이 화석 연료 인프라 폭발을 부추기고 있다는 지적이 이어졌습니다.
개인 생활직결 이슈
철도 신호 시뮬레이터를 3일 만에 철도 운영 분야 종사자가 Astra 시스템 카드를 참고해 교육 자료와 매뉴얼을 업로드한 지 3일 만에 신호 시스템 시뮬레이터를 성공적으로 구현했습니다. 결과물은 기존 시뮬레이터보다 더 우수한 성능을 보여주며 기술 전문가가 아닌 일반 사용자도 고도화된 AI 도구를 활용해 실무용 소프트웨어를 제작할 수 있음을 시사했습니다.
장애인에게 AI는 선택 아닌 필수 장애를 가진 사용자가 AI가 삶의 접근성을 획기적으로 높여준다고 주장하자, 반대자들이 장애를 핑계라 비난하거나 시각장애인에게 안내견을 쓰라는 무례한 발언을 하는 사례가 공유되었습니다. 이는 AI 활용을 둘러싼 논쟁이 실제 장애인의 권리와 필요를 무시한 채 도덕적 잣대만으로 이루어지는 경향을 보여줍니다.
AI 모델, 서비스 소식 및 활용기
허깅페이이지 대안, 새로운 모델 다운로드 사이트 허깅페이이스의 검열이나 접근 제한에 대비해 모델을 다운로드할 수 있는 새로운 웹사이트가 소개되었습니다. 댓글에서는 llama.garden 같은 대안이 언급되었고, 사용자들은 HuggingButt나 YarrFace 같은 유머러스한 이름의 독자적인 파생 사이트를 만들자고 농담을 주고받았습니다.
중국 모델 금지 속에서 서방 오픈소스 고르기 GLM, Qwen, DeepSeek 같은 중국 모델이 성능을 압도하지만, 경영진의 금지령으로 인해 H100 서버에 중국 모델을 설치할 수 없는 현실을 토로했습니다. 120B 이상의 큰 규모와 비전 기능을 갖춘 서방 연구소 모델이 중국 모델에 비해 현저히 부족하여 대안을 찾기 어렵다고 호소했습니다.
챗GPT 워크와 GPT-6 아스트라의 러닝 코스 생성 ChatGPT Work와 GPT-6 Astra가 주소를 입력받아 OSM 데이터를 활용해 그곳을 시작점으로 하는 5km 또는 10km 원형 러닝 코스를 생성하는 기능을 소개했습니다. 이 기능은 외판원 문제를 푸는 것이 아니라 고정된 반경 내 보도를 따라 도형을 그리는 방식으로 동작한다는 기술적 분석이 뒤따랐습니다.
샘 알트먼과 클로드가 추천하는 두 가지 질문 AI 세션을 마칠 때 "지금 가장 자신 없는 부분은 무엇인가"와 "내가 놓치고 있는 가장 큰 것은 무엇인가"를 묻는 질문법을 제안했습니다. 이 두 질문을 통해 AI가 미처 조사하지 못한 치명적인 문제를 찾아내거나 상황을 객관적으로 파악하는 데 큰 도움을 받고 있다고 주장했습니다.
내부와 외부의 인식 차이, 그리고 규제 포위 공략? 최근 2주간의 상황을 업계 차원의 규제 포위 전략으로 해석할 수도 있지만, 연구소 직원들이 갑자기 겪은 공포의 실체는 모델 역량 진전 속도에 대한 믿음의 차이에서 비롯되었습니다. GPT3에서 GPT5로 이어지는 릴리스 경험을 바탕으로 형성된 외부의 직관과 달리, 내부에서는 인간 능력을 뛰어넘는 진전 속도를 목격하며 큰 인식 격차가 발생하고 있습니다.
답을 얻는 것과 이해하는 것은 별개입니다 통계와 데이터 과학 분야에서 LLM의 역할을 매우 낙관적으로 바라보던 Dr. Carr조차 최근 모델들의 실망스러운 성과를 인정하며 성명서를 냈습니다. 이는 AI가 답변 생성 과정에서 인간의 이해를 배제함으로써, 답을 아는 것과 이해하는 것 사이의 상관관계를 깨뜨렸다는 점을 시사합니다.
너무 똑똑해져서 약점을 증명하기 힘든 AI Astra와 Fable 같은 모델이 학술 분야에서 훌륭한 논문을 작성할 정도로 고도화되면서, 전문가가 아니고서는 AI의 강점과 약점을 구별하기 점점 더 어려워지고 있습니다. 이는 잘못된 정보를 만들어내는 데 악용될 경우, 이를 반박하는 데에만 수시간이 걸리는 심각한 문제를 야기하며 벤치마크 작성 난이도도 극도로 높아집니다.
AGI는 이미 도래했으되, 아직 공개되지 않았다 OpenAI와 Anthropic 직원들 사이에서 실존적 위기감이 급증한 것은, AGI가 사실상 내부적으로는 도달했으나 대중에게 공개되지 않은 상태이기 때문입니다. 몇 달 안에 이 모델들이 널리 보급될 것이라는 전망 속에서, 미국이 개발을 늦출 경우 중국에 우위를 내줄 수 있다는 딜레마가 제기되고 있습니다.
GPT-6 Astra Pro, 물리학 난제 해결 가능성 제시 GPT-6 Astra Pro가 3차원 등방성 2상 전도도 함수 폐쇄 문제를 해결하는 잠재적 획기적 결과를 생성했으며, 이는 모든 대비 조건에서 작동하는 기하학적 순서를 요구하는 극도로 어려운 수학 물리학 문제입니다. 해당 결과는 Zenodo와 Hugging Face에 증명, 코드, 검증 절차와 함께 공개되어 전문가들의 검증을 기다리고 있습니다.
AI 찬반·윤리 논쟁
샘과 일론, 속도 줄이기 합의? 믿지 마세요 샘 알트먼, 다리오 아모데이, 일론 머스크가 인공지능 개발 속도를 늦추기로 공개적으로 합의했지만, 댓글 작성자들은 이를 실제로는 가스 페달을 밟는 '선전용 쇼'에 불과하다고 조롱했습니다. 일부는 이들이 2027년까지 범용인공지능(AGI) 구현이 어렵다는 현실을 인지하면서도 주가를 방어하기 위해 자발적인 속도 조절을 가장하는 것이라고 분석했습니다.
암 연구자 10만 명, AI 사용 반대 성명서? 풍자였다 GPT-8이 암을 치료하고 밈 태그가 붙은 글임에도 불구하고, r/singularity 커뮤니티 사용자들은 10만 명의 암 연구자가 AI 사용을 반대한다는 풍자 글을 진짜 뉴스로 착각했습니다. 댓글에서는 오픈AI가 공개 모델을 출시한 이후 해당 커뮤니티가 봇과 선전, 정치 논쟁으로 오염되었으며 기술적 맥락을 이해하지 못하는 사람들이 늘어났다고 비판했습니다.
도둑맞은 수학 돌파구부터 '탈선 AI'까지 과대광고 홍수 최근 도둑맞은 수학 돌파구, 기업의 사이버 범죄를 '탈선 AI'로 포장한 주장, 운명론적 내부 고발자 등이 쏟아져 나오며 기시 갤럽(Gish gallop) 식의 과대광고가 횡행하고 있습니다. 한 댓글 작성자는 이런 인공지능 열풍이 일론 머스크의 화성 식민지나 마인드 업로드 등 과학 소설을 미래 예측으로 착각하는 현상과 닮아 있다고 지적했습니다.
LessWrong 인용 멈출 때까지 제발 깨우지 마세요 한 사용자는 팬픽션을 쓰는 자칭 천재가 이끄는 우생학적 운명론 컬트가 주류 매체에서 인용되며 인공지능 서사를 장악하는 상황에 개탄하며 LessWrong 인용이 멈출 때까지 자신을 깨우지 말라고 요청했습니다. 댓글에서는 LessWrong의 글들이 순종과 정렬을 혼동하며, 제2차 세계대전의 교훈인 맹목적 복종의 위험성을 간과하고 있다고 비판했습니다.
공개(IPO) 앞둔 회사, 꼬였네 특정 회사의 상황을 두고 '망했다'는 짧은 글이 올라왔고, 댓글에서는 샘이 인스펙터 가제트 코트를 입고 탈선 인공지능 군체를 찾아 헤매거나 벙커에 숨어야 할지도 모른다는 조롱이 쏟아졌습니다. 회사가 실제로 무엇을 하고 있는지 모른다는 점이 기업공개(IPO) 신청서를 작성하는 데 큰 걸림돌이 될 것이라는 분석이 제기되었습니다.
AI 안전·위험 논쟁
안토픽 CEO의 갑작스러운 일시정지 제안 안토픽 CEO인 Dario Amodei가 AI 연구 일시정지를 호소하자 몇 시간 만에 Sam Altman과 Elon Musk가 동의했는데, 이는 공개되지 않은 어떤 사건이 그들을 겁먹게 했기 때문이라는 추측이 나왔습니다. 일각에서는 Musk가 이틀 전까지만 해도 안전 규제를 업계 통제용 수작으로 비난했던 점을 들어 이들의 행보 변화를 의심하고 있습니다.
빅3가 동시에 속도를 늦추는 이유는 뭘까 Elon Musk, Dario Amodei, Sam Altman이 Hugging Face 사건보다 심각한 AI 사고를 알고 있어서 속도를 늦추자고 한 것 아니냐는 주장이 제기되었습니다. 이에 대해 지난 GPT-4 출시 당시에도 6개월 일시정지 서한이 있었음을 상기하며 이번 제안도 새로울 게 없다는 반론과, 경쟁사가 멈추지 않는 상황에서 정지는 불가능하다는 지적이 이어졌습니다.
안전 핑계 뒤에 숨겨진 현실적인 제약들 Dario Amodei의 최신 제안이 주목을 받을 수 있겠지만, 실제로는 에너지 병목, 칩 공급 부족, 채권 금리 상승과 같은 통제 불가능한 외부 요인들이 AI 개발 속도를 늦추고 있다는 분석이 나왔습니다. 댓글에서는 모델의 개선 속도가 둔화하고 있다는 점과 기업들이 실제 행동이 아닌 말로만 안전을 강조한다는 비판이 제기되었습니다.
최종 목표라는 착각과 자본주의적 사고의 투영 지능형 시스템이 반드시 '최종 목표'를 가지고 행동한다는 가정은 필요 없으며, LLM은 그렇게 작동하지 않는다는 주장이 제기되었습니다. 어떤 댓글러는 합리주의자들이 초지능을 경제학적 이율 극대화를 추구하는 '호모 에코노미쿠스'로 바라보는 것은 자신들이 내면화한 경직된 자본주의 규칙을 AI에 투영한 것에 불과하다고 비판했습니다.
안토픽 CEO가 제안한 AI 개발 속도 조절 안토픽 CEO인 Dario Amodei가 3,800단어 에세이를 통해 급격히 발전하는 AI 역량을 언급하며 업계 전반의 강력한 안전 통제가 필요하다고 주장했습니다. 이에 OpenAI의 Sam Altman, SpaceX의 Elon Musk, Google DeepMind의 Demis Hassabis 등 주요 업계 리더들이 소셜 미디어를 통해 개발 속도 조절 필요성에 동의한다고 입장을 밝혔습니다.
창작·저작권 이슈
위험한 딥페이크 만드는 지능 때문에 JibJab 그만둬 JibJab 직원이 위험한 인공지능이 만드는 딥페이크 기술에 반대하여 회사를 그만두었다는 사실을 알립니다. 댓글에서는 존 케리와 조지 W. 부시가 등장하는 클래식 영상을 언급하며 딥페이크와 진짜를 구분하는 문화적 맥락을 농담으로 다루었습니다.
개발자 도구·워크플로우
오픈AI 연구원의 하루 코딩 에이전트 지출 오픈AI 연구원의 코딩 에이전트 하루 평균 지출은 600달러이며 상위 10퍼센트는 7천 달러를 씁니다. 개별 사용자의 직접 사용이 지출의 대부분을 차지한다는 의견과 GPT 6 같은 고가 모델 사용 가능성이 제기되었습니다.
RTX 5090과 맥 스튜디오 M5 울트라의 딜레마 RTX 5090을 팔아 대역폭이 낮은 맥 스튜디오 M5 울트라 96GB로 교체하는 것이 코딩용으로 합리적인지 묻고 있습니다. 렌탈 방식의 비용 효율성과 M5 울트라의 프리필 성능에 대한 기대감이 댓글에서 오갔습니다.
Qwen3.8:27B 로컬 모델의 컨텍스트 압축 난관 RTX 5080 16GB에서 llama.cpp로 Qwen3.8:27B NVFP4 버전을 실행하며 48k 컨텍스트와 초당 12토큰 속도를 확보했습니다. pi.dev 플러그인이 적절한 시점에 컨텍스트를 압축하지 못해 모델이 조기 종료되는 문제를 겪고 있습니다.
비전문가 직원을 위한 AI 데스크톱 앱 탐색 엑셀과 워드 등을 직접 수정하는 Claude나 챗GPT 워크 같은 경험을 비기술 직원에게 제공할 데스크톱 앱을 찾고 있습니다. Cherrystudio와 AionUI 등을 테스트했으나 사용자 친화성이나 설정 배포의 어려움을 겪었다고 합니다.
댓글을 보거나 남기려면 로그인이 필요합니다