아이폰, 270억 매개변수 LLM 품는다… IBM CEO는 AI 투자 '재검토' 주문
2026년 7월 15일, 인공지능 시대의 핵심을 짚어보는 '지금은 인공지능 시대' 뉴스레터가 도착했습니다. 오늘은 온디바이스 AI의 새로운 지평과 함께, 급변하는 AI 인프라 및 투자 환경을 집중 조명합니다.
오늘의 핵심 5
5분이면 충분해요- 1
10GB 메모리로 27B 거대언어모델 구동, 온디바이스 AI 시대 성큼커뮤니티
AI 스타트업 PrismML이 270억개 매개변수의 거대언어모델을 10GB VRAM만으로 구동하는 데 성공했습니다. 이는 고사양 서버 없이 스마트폰 같은 일반 기기에서도 고성능 AI를 사용할 수 있는 온디바이스 AI 시대의 개막을 의미합니다.
왜 중요한가삼성 갤럭시 AI, 애플 시리 AI 등 한국 시장의 핵심인 스마트폰 AI 경쟁에서 기기 자체의 성능이 더 중요해졌음을 시사합니다.
- 2
애플, 핵심 기술 도용 혐의로 OpenAI 상대 소송 제기기술
애플이 OpenAI를 상대로 핵심 기술 관련 소송을 제기하며 두 빅테크 기업의 갈등이 격화되고 있습니다. 이는 AI 업계의 기술 패권 경쟁이 법적 분쟁으로 확산되고 있음을 보여주며, 최근 발표된 양사 파트너십의 미래에도 불확실성을 더합니다.
왜 중요한가국내 기업들이 글로벌 빅테크와 파트너십을 맺거나 경쟁할 때 발생할 수 있는 지적재산권 분쟁의 위험성을 명확히 보여주는 사례입니다.
- 3
미국 뉴욕주, AI 데이터센터 신규 건설 1년 금지세계·경제
뉴욕주가 AI 데이터센터의 막대한 전력 소모와 환경 부담을 이유로 1년간 신규 허가를 중단했습니다. 이는 AI 산업의 급성장에 대한 첫 주요 규제 사례로, 향후 인프라 투자에 큰 영향을 미칠 전망입니다.
왜 중요한가전력난과 데이터센터 수도권 집중 문제가 심각한 한국에서도 유사한 규제가 도입될 수 있어, 네이버·카카오 등 관련 기업의 사업 전략에 직접적인 변수가 될 것입니다.
- 4
메타, AI 활용한 직원 해고로 집단소송 당해기술
메타의 전 직원 26명이 AI 시스템이 휴가 중인 직원 등을 부당하게 해고 대상으로 지목했다며 집단소송을 제기했습니다. AI를 인사 관리에 활용할 때 발생하는 편향성과 법적 리스크를 보여주는 사례입니다.
왜 중요한가국내 기업들도 AI 기반 인사평가 및 구조조정 도입을 검토 중인 만큼, 기술의 공정성 문제와 법적 분쟁 가능성에 대한 중요한 선례가 됩니다.
- 5
엔비디아 H200 칩, 중국 수출 사실상 재개된 듯세계·경제
미국 고위 무역 당국자가 엔비디아의 차세대 AI 칩 H200이 중국에 '매우 적게(very few)' 수출되고 있다고 언급했습니다. 이는 사실상 대중국 수출 금지가 일부 완화되었음을 시사하는 발언으로 해석됩니다.
왜 중요한가미중 반도체 전쟁의 기조 변화 가능성을 보여주며, 이는 삼성전자·SK하이닉스 등 한국 반도체 기업의 사업 전략과 주가에 직접적인 영향을 미칩니다.
내 PC를 AI서버로, 로컬 LLM 설치하고 보안 걱정 없이 문서 요약하기
오늘의 온디바이스 AI 기술 발전 소식처럼, 내 컴퓨터에 직접 AI를 설치해 외부 유출 걱정 없이 민감한 업무 자료를 다룰 수 있습니다.
- 1PC에 로컬 AI 구동기 'Ollama' 설치하기: ollama.com 사이트에서 자신의 운영체제(윈도우/맥OS)에 맞는 버전을 다운로드하여 설치합니다. 설치 후 터미널(맥)이나 PowerShell(윈도우)을 열고 `ollama run eeve-korean-10.8b` 명령어를 입력해 한국어 특화 모델을 다운로드합니다.
- 2보안이 중요한 내부 문서 요약시키기: 모델 다운로드가 완료되면, 같은 터미널 창에 바로 프롬프트를 입력할 수 있습니다. 예를 들어, `다음 회의록을 핵심 안건 3가지로 요약해줘: [여기에 회의록 내용 붙여넣기]` 와 같이 민감한 정보도 외부 유출 걱정 없이 활용할 수 있습니다.
- 3다양한 모델로 활용도 높이기: `ollama run gemma:2b` (구글의 경량 모델)나 `ollama run llama3` (메타의 최신 모델) 등 다른 모델도 같은 방식으로 다운로드하여 작업 성격에 맞게 테스트해볼 수 있습니다. 모델 목록은 ollama.com/library 에서 확인 가능합니다.
마켓 데스크: 온디바이스 AI 승부수와 기업 투자 재편의 서막
6애플, '온디바이스 AI' 승부수… 프리즘ML과 협력으로 아이폰 경쟁력 강화 모색
애플의 프리즘ML과의 협력 논의는 온디바이스 AI를 통해 아이폰 경쟁력을 강화하고 개인 정보 보호와 성능을 동시에 잡으려는 애플의 전략적 방향성을 명확히 보여줍니다. 이는 애플의 주가에 긍정적으로 작용하며 AI 시장의 판도를 재편할 잠재력을 지닙니다.
자세히IBM CEO의 'AI 지출 재검토' 발언, 사이버보안 주식 급등 이끌다
아빈드 크리슈나 CEO의 발언은 AI가 단순한 기술 혁신을 넘어 기업의 IT 예산 재편과 보안 시장의 전략적 변화를 가속화하는 핵심 동인임을 명확히 보여줍니다. 이는 AI 시대에 보안이 더욱 중요해지는 양면성을 잘 드러내는 사례입니다.
자세히뉴욕주의 AI 데이터센터 '건설 금지' 1년, 인공지능 시대 인프라 투자에 미칠 파장
뉴욕주의 AI 데이터센터 건설 금지 조치는 AI 산업의 핵심 인프라 투자에 대한 불확실성을 높이며, 지속 가능한 성장을 위한 전력 효율화와 친환경 에너지 솔루션 개발의 중요성을 부각시키고 있습니다.
자세히AI 과열 투자 경고등: 팔리하피티야, 기업 이익 하락 우려 제기
AI 기술 개발과 도입에 따른 막대한 지출이 기업 실적에 부담을 줄 것이라는 경고는, AI 투자 열풍 속에서 효율성과 수익성을 동시에 고려해야 하는 현실적 과제를 명확히 보여줍니다. 이는 기업의 AI 전략이 단순히 기술 도입을 넘어 재무적 지속 가능성을 확보하는 방향으로 진화해야 함을 의미합니다.
자세히짚라인, 테슬라·우버·웨이모 출신 핵심 임원 영입으로 미국 드론 배송 시장 정조준
짚라인의 테슬라, 우버, 웨이모 출신 핵심 임원 영입은 미국 드론 배송 시장의 복잡한 규제 및 물류 난제를 해결하며 이 기술이 주류 시장으로 진입하는 결정적인 전환점이 될 수 있음을 시사합니다.
자세히미국 무역 당국자 발언: 엔비디아 H200, 중국 수출 재개 신호탄 될까
엔비디아 H200 칩의 대중국 수출 재개는 '매우 적은' 물량이라도 미국 규제 하에서 중국 시장에 다시 발을 들여놓았다는 점에서 엔비디아의 전략적 유연성과 향후 매출 증대 가능성을 시사하는 중요한 시장 신호입니다.
자세히테크 데스크: AI 기술 패권 전쟁, 하드웨어 소송부터 인프라 규제까지
6애플, OpenAI에 핵심 기술 소송 제기…샘 올트먼의 '하드웨어 베팅' 시험대에 오르다
이번 소송은 OpenAI의 핵심 하드웨어 개발 전략을 직접적으로 겨냥하며, AI 시대의 기술 주도권 싸움이 소프트웨어뿐만 아니라 하드웨어 지식재산권으로 확대되었음을 보여줍니다.
자세히구글 딥마인드 CEO 하사비스, '미국 주도 글로벌 AI 감시 기구' 설립 주장
AI의 급속한 발전과 잠재적 위험에 대한 대응으로, 구글 딥마인드 CEO 데미스 하사비스가 미국 주도의 글로벌 AI 감시 기구 설립을 주장하며 안전하고 지속 가능한 AI 발전을 위한 국제적 거버넌스 논의의 필요성을 강조했습니다.
자세히메타, 해고에 인공지능 편향성 의혹 피소: '휴가 중 직원' 타겟 논란
메타의 AI 기반 정리 해고 편향성 의혹 소송은 AI의 효율성 뒤에 가려진 공정성 문제를 드러내며, 인간의 중요한 결정에 AI를 적용할 때 윤리적 설계와 강력한 인간 개입 및 감시 시스템이 필수적임을 보여줍니다.
자세히스포티파이, 대화형 AI 챗봇 도입으로 음악 탐색의 새 지평을 열다
스포티파이의 AI 챗봇 도입은 단순히 콘텐츠를 재생하는 것을 넘어, 사용자가 대화하듯 원하는 콘텐츠를 발견하고 탐색하는 새로운 패러다임을 제시하며 엔터테인먼트 분야의 AI 인터페이스 주류화를 가속할 것입니다.
자세히미국 뉴욕주, AI 데이터센터 신규 허가 전격 중단: 기술 혁신 제동 우려와 지속 가능성 논의 점화
뉴욕주의 AI 데이터센터 신규 허가 중단은 기술 발전과 환경 지속 가능성이라는 두 가지 가치가 충돌하는 현 시점에서, 전 세계 AI 산업계에 중요한 논의를 촉발하고 인프라 전략의 근본적인 변화를 요구하는 선례가 될 것입니다.
자세히iOS 27 공개 베타, '시리 AI' 아이폰 경험을 온전히 재정의하다
iOS 27의 '시리 AI'는 단순한 기능 개선을 넘어, 온디바이스 AI 기술과 깊은 시스템 통합을 통해 아이폰 사용자 경험을 개인 맞춤형의 능동적인 상호작용으로 변화시키며 모바일 AI의 새로운 방향을 제시합니다.
자세히소셜 데스크: 27B급 LLM, 스마트폰 시대의 개막을 알리다
610GB 메모리로 270억 매개변수 LLM을? PrismML의 Ternary Qwen3.6 27B, 온디바이스 AI의 새 지평 열다
PrismML의 Ternary Qwen3.6 27B 모델은 저용량 메모리로 대규모 LLM 구동의 문턱을 낮춰 온디바이스 AI의 새로운 가능성을 제시하며, 인공지능의 개인화 및 대중화를 가속화할 중요한 발판을 마련했습니다.
자세히로컬 LLM 코딩 도우미의 새로운 강자, KAT-Coder-Air V2.5 출시 임박 소식에 커뮤니티 들썩
KAT-Coder-Air V2.5의 출시 임박 소식은 로컬 LLM 커뮤니티의 기술 민주화 열망과 맞물려, AI 코딩 도구의 접근성과 효율성을 극대화하려는 시장의 중요한 흐름을 보여줍니다.
자세히27B급 LLM이 웹 브라우저에서? Bonsai 27B, 1-비트 기술로 로컬 AI 시대 개척
Bonsai 27B는 1-비트 양자화와 WebGPU 기술로 27B급 LLM을 웹 브라우저와 모바일 기기에서 로컬 구동할 수 있게 함으로써, 고성능 하드웨어 없이도 강력한 AI를 활용하는 엣지 AI 시대의 서막을 열었습니다. 이는 인공지능의 민주화와 데이터 주권 확보에 중요한 진전을 가져올 것입니다.
자세히27B급 대형 언어 모델, 이제 스마트폰에서 '보안' 구동 시대 열리나
Bonsai Qwen 3.6 27B는 대형 언어 모델을 소비재 기기에서 구동할 수 있게 함으로써 AI 접근성을 혁신하고, 온디바이스 AI 시대의 도래를 앞당기는 중요한 전환점이 될 것입니다.
자세히27B 파라미터 LLM, 스마트폰에서 구동 성공: 온디바이스 AI의 새로운 지평 열리나?
PrismML의 Bonsai 27B 모델은 스마트폰에서 270억 파라미터 LLM을 구동하며 온디바이스 AI의 한계를 확장했습니다. 이는 AI 기술의 접근성을 높이고 개인 프라이버시를 강화하며, 클라우드 AI 중심의 시장에 새로운 경쟁 구도를 가져올 중요한 발전입니다.
자세히AI 코딩 에이전트, 개발자 생산성을 '기록적으로' 끌어올리나? Datasette 프로젝트의 놀라운 변화
AI 코딩 에이전트와 고성능 LLM의 결합은 단순한 개발 보조를 넘어, 개발자의 실제 생산성을 기하급수적으로 끌어올릴 잠재력을 보여주며 소프트웨어 개발의 패러다임 전환을 예고합니다.
자세히리서치 데스크: AI 시스템 심층 분석, 효율과 신뢰성 해답을 찾다
10LLM 에이전트 협업의 숨은 열쇠: '메시지 포맷'이 정보 정확도를 좌우한다
LLM 에이전트 간의 멀티홉 정보 전달에서 메시지 포맷은 정보의 복제 충실도와 시스템의 전반적인 신뢰성에 결정적인 영향을 미칩니다. 이는 복잡한 AI 시스템 설계 시 단순한 LLM 성능을 넘어선 섬세한 커뮤니케이션 프로토콜의 중요성을 강조합니다.
자세히지식 그래프와 그래프 신경망의 만남: AI 시대, 복잡한 정보 이해의 새 지평
지식 그래프와 그래프 신경망의 결합은 AI가 복잡한 지식을 구조화하고 추론하는 능력을 혁신적으로 향상시키며, 인공지능 시대의 핵심 지식 처리 패러다임을 제시합니다.
자세히인공지능의 '진실'은 과연 객관적일까? '그라운드 트루스'의 인간적 구성에 대한 새로운 시각
이 논문은 인공지능 학습의 근간인 '그라운드 트루스'가 객관적인 진실이 아닌 인간의 구성물임을 주장하며, AI 모델의 편향과 윤리적 문제를 해결하기 위한 근본적인 관점 전환의 필요성을 제기합니다. 이는 AI 개발 과정의 투명성과 데이터셋의 재해석을 요구하며, 더욱 책임감 있는 AI 시스템 구축의 길을 제시합니다.
자세히경제 원리 입은 AI 에이전트: 차세대 인공지능 시스템 설계의 청사진
이 논문은 다중 인공지능 에이전트 시스템의 핵심 작동 원리를 경제학적 관점과 복잡계 이론으로 구체화하여, 미래 자율 AI 시스템 설계에 필요한 근본적인 이론적 기반을 제공합니다.
자세히AI 코드 에이전트, '전체 저장소'가 아닌 '핵심 맥락'만 원한다
AI 코딩 에이전트는 코드 수정 작업에 필요한 최소한의 맥락만을 요구하며, 이는 불필요한 컴퓨팅 자원 소모를 줄이고 에이전트의 효율성과 정확도를 높일 수 있음을 시사합니다.
자세히거대 언어 모델, 훈련 없이 똑똑해진다: 내부를 읽어낸 '심층 엔트로피 샘플링' 기술 주목
기존의 값비싼 강화 학습(RL) 없이도 대규모 언어 모델의 추론 능력을 획기적으로 향상시킬 수 있는 길을 열어, AI 개발 비용 절감과 접근성 확대에 크게 기여할 것으로 기대됩니다.
자세히오픈AI는 싫어할 지도? LLM 숨겨진 추론을 파헤치는 동역학 시스템 분석
이 논문은 LLM의 잠재적 CoT 추론 과정을 동역학 시스템으로 분석하는 새로운 관점을 제시하며, 인공지능의 '블랙박스' 문제를 해결하고 AI의 신뢰성과 설명 가능성을 높이는 데 핵심적인 통찰을 제공합니다.
자세히AI, '외판원 문제' 난제 푼다: GES-TSP, 학습 기반 엣지 간소화의 힘
GES-TSP는 인공지능 기반 학습을 통해 외판원 문제의 계산 복잡성을 혁신적으로 줄이는 방법을 제시하며, 이는 현대 물류 및 최적화 분야에 새로운 돌파구를 열 잠재력을 보여줍니다.
자세히LLM 메모리 한계를 부수는 KV 캐시 압축, 통계적 검증으로 효율성의 새 지평을 열다
이 연구는 KV 캐시 압축 기법들을 통계적으로 엄밀하게 분석하여 각 방법의 강점과 약점을 명확히 하고, LLM의 효율적인 배포를 위한 새로운 기준점을 제시했습니다. 데이터의 특성과 캘리브레이션 예산에 따라 최적의 압축 전략이 달라질 수 있음을 입증하며, 단순히 성능 수치를 넘어선 본질적인 이해의 중요성을 강조합니다.
자세히LLM 증류 모델, 그 '스승'을 추적하는 길이 열리다: 지적재산권 보호의 새 장
AI 모델의 '증류' 과정에서 발생하는 지적재산권 침해 문제를 해결하기 위한 '참조 기반' 감지 기술이 등장했습니다. 이 기술은 모델의 과거 체크포인트를 활용하여 특정 스승 모델로부터의 증류 여부를 추적, AI 생태계의 투명성과 공정 경쟁을 강화하는 중요한 발판을 마련했습니다.
자세히오늘도 AI가 그려나가는 새로운 세상의 단면들을 함께 살펴보셨습니다. 내일도 흥미로운 소식들로 찾아뵐 '지금은 인공지능 시대'에 많은 관심 부탁드립니다.
이 브리핑이 유용했나요?
댓글 (0)
첫 댓글을 남겨주세요.
