AI인사이트

며칠전 4월 20일, 결국은 많은 우려에도 불구하고, 공공 클라우드 보안 검증 절차를 국정원 단일 체계로 정리가 되었네요. CSAP와 보안성 검증이라는 이중 절차를 하나로 합치고, 기존 CSAP의 민간 영역 규범은 ISMS·ISMS-P에 모듈화해 자율 인증으로 전환하며, 2027년 7월부터 새 제도를 본격 시행한다는 내용입니다. 당초, 디지털플랫폼정부위 시절, 그러니까 2022년에 국정원은 불투명한 보안성 검토를 메뉴얼화하고 예측가능하게 바꾸기로 했었습니다만, 그 … 더 읽기

오늘날 리더십의 본질이 근본적으로 재정의되고 있다. 과거의 리더가 ‘가장 많이 아는 사람’이었다면, AI 시대의 리더는 ‘가장 잘 듣는 사람’이어야 한다. 지식의 독점이 권력이 되던 시대는 끝났다. 정보는 넘쳐흐르고, 전문성의 유효기간은 짧아졌으며, 어제의 정답은 오늘의 함정이 된다. 이 격변의 시대에 리더십의 핵심 역량은 ‘무엇을 아는가’에서 ‘누구의 말에서 무엇을 들을 수 있는가’로 이동하고 있다. 그러나 여전히 두 … 더 읽기

4월 8일, 샌프란시스코에서 열린 ‘HumanX 2026’ 컨퍼런스에서 AI 4대 석학인 앤드류 응 교수는 “인간의 코딩이 불필요해질 것이라는 주장은 훗날 ‘역대 최악의 조언’으로 기록될 것”이라고 얘기했습니다. 젠슨황이 계속 ‘코딩 무용론’ 을 주장하고, 도메인 지식을 키우라고 한 발언에 대한 일종의 카운터입니다. 앤드류 응 교수가 크게 세 가지로 설명했습니다. 1) 문해력(Literacy)의 관점 – 코딩을 단순한 기술이 아닌 현대적인 … 더 읽기

지금 우리가 사는 시대는 ‘최적화(Optimization)’의 시대입니다. 단순한 공학적 용어를 넘어, 현대 문명을 지배하는 그런 개념입니다. 아침에 눈을 뜨는 순간부터 잠들 때까지, 우리는 보이지 않는 알고리즘의 안내를 받으며 살아갑니다. 스마트폰 내비게이션은 출근길의 교통 체증을 피해 가장 빠른 경로를 붉은 선으로 그려주고, 유튜브의 추천 알고리즘은 내가 무엇을 보고 싶어 하는지 나보다 더 빨리 파악하여 화면 가득 영상을 … 더 읽기

LLM은 언어를 이해하고 생성하는 능력에서 이미 성능을 입증했죠. 하지만 LLM을 단순한 대화 도구가 아니라 실제로 “일을 하는 존재”, 즉 에이전트로 사용하려는 순간부터 구조적 한계가 있습니다. 작업이 길어질수록 정확도가 떨어지고, 중간 단계에서 사실과 다른 내용을 만들어내며, 여러 작업을 동시에 시키면 앞뒤가 엉키는 현상이 반복됩니다. 이 문제를 해결하기 위해 컨텍스트 윈도우를 키우는 방향으로 달려왔죠. 컨텍스트를 늘리면 더 … 더 읽기

엔비디아(NVIDIA)가 크리스마스 이브에 AI 반도체 스타트업 그록(Groq)의 IP와 핵심 인력을 200억 달러(약 29조 원)에 인수했습니다. 이번 딜을 두고, 추론이 확대되면서, GPU는 학습, LPU는 추론이라는 구도가 확립되었다는 해석도 있고, LPU가 추론시장을 주도할 것이라는 얘기들도 있습니다. 추론이 중요한 피지컬AI에서도 LPU 중요성이 높아진다는 얘기, 그리고 그록의 기술이 도입되면 HBM(고대역폭메모리)의 필요성이 줄어들 것이라는 전망도 나옵니다. 물론 저는 반도체 전문가는 … 더 읽기

일본 정부가 12월 23일 발표한 ‘제1차 AI 기본 계획’과 약 3조 엔 규모의 민관 합동 투자는 일본이 처한 기술적 위기감을 여실히 드러납니다. 행정, 의료, 국방 등 민감한 공공 분야뿐만 아니라 일본 경제의 근간인 제조업 전반에 걸쳐 해외 기술 의존도를 낮추겠다는 의지의 표현이죠. 일본은 소프트뱅크, NTT, 후지쯔 등 주요 자국 기업을 중심으로 대규모 컴퓨팅 인프라를 확충하고, … 더 읽기

원래 LLM의 발전은 스케일링 법칙(Scaling Laws)에 의존해왔죠. 모델의 파라미터와 데이터량을 늘리면 AI가 선형적으로 향상될 것이라는 믿음은 사실 지금도 유효하긴 합니다. 모델들은 인간의 언어 패턴을 방대한 확률적, 통계적 연산으로 모방하며 놀라운 퍼포먼스를 보여줬으나, 복잡한 논리 구조나 수학적 추론 앞에서는 취약한 한계를 드러냈습니다. LLM은 근본적으로 다음에 올 가장 확률이 높은 단어를 예측하는 시스템입니다. 겉으로는 지능적인 대화를 하는것 … 더 읽기

지난 9일 미국 국방부(DoD)가 구글의 생성형 인공지능 모델인 제미나이를 기반으로 한 ‘GenAI.mil’ 플랫폼을 공식 출범했다는 뉴스는 그냥 보면, 추가적인 빅테크 AI 기술 도입사례로 보일수 있습니다. 하지만, 단순하게만 볼 건 아니라고 생각합니다. 펜타곤에는 이미 팔란티어가 존재하고 있기 때문입니다. 오사마 빈 라덴을 추적하던 숨 막히는 작전에서부터, 지금 이 순간에도 우크라이나의 대평원에서 벌어지는 전투에 이르기까지, 팔란티어의 ‘고담(Gotham)’과 ‘AIP(Artificial … 더 읽기

지난번 글에서 저는 RAG의 한계를 극복하기 위한 대안으로 ‘하이브리드 RAG(Dynamic GraphRAG)’를 제시한 바 있습니다 데이터의 관계를 파악하는 GraphRAG와 프로세스의 유연함을 더하는 LangGraph의 결합이 RAG의 ‘지능’을 한 단계 높일 수 있다는 주장이었습니다. 하지만 기술의 진화 속도는 우리의 예상보다 훨씬 빠르고 역동적입니다. 그래서, 지난번에 제안했던 하이브리드 전략을 토대로 한 단계 더 나아간, AI 신뢰성의 또하나의 퍼즐을 맞추기 … 더 읽기

기업, 정부 등 거의 모든 조직들이 LLM, Gen AI 도입에 여전히 열을 올리고 있습니다. 이제는 AI agent 로 향해가고 있죠. 그 중 가장 먼저 널리 채택된 방식은 단연 RAG(Retrieval-Augmented Generation)였습니다. RAG는 LLM의 치명적인 약점인 환각(Hallucination)을 줄여주고, LLM 트레이닝+ 추론 비용도 줄여주는, 조직 내부의 최신 데이터를 참조하게 하는 가장 현실적이고 비용 효율적인 전략으로 각광을 받았습니다. 그런데, … 더 읽기