한원진님의 아티클

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️ SW/AI 한줄 뉴스
1. [기고] AI와 함께 살아가기 위한 빌드업

https://n.news.naver.com/mnews/article/009/0005304309

2. '같지만 다른' AI 비서..."오픈AI 인간적 vs 구글 비인간적"
https://www.aitimes.com/news/articleView.html?idxno=159681

🤵‍♂️ 빠르다 빨라 AI 세상

1. Google I/O 2024: 혁신적 AI와 새로운 시대의 시작
Google I/O 2024에서는 “구글 포토에게 물어보기”, “Gemini를 통한 검색기능의 향상” 등 워크스페이스에서 활용할 수 있는 기능에 대해 소개하였으며 AI 비서인 프로젝트 아스트라, Pro보다 가벼운 모델인 Flash, 텍스트-투-비디오 모델인 Veo, Trilium이라는 6세대 TPU, GPTs와 유사한 Gem의 추가, 1M까지 확장된 Gemini의 컨텍스트 윈도우, Open Vision Model인 PaliGemma, 6월 공개 예정인 Gemma2와 더불어 27B의 Gemma2까지 굉장히 다양한 내용이 포함되었습니다. 특히나 구글 워크스페이스에서 모든 것을 활용할 수 있을 것이라는 기대가 커지고 있으며 AI 생태계에 굉장히 큰 기여를 하는 모습을 보여주고 있습니다. 앞으로의 구글의 행보가 매우 기대가 되네요!
https://blog.google/intl/ko-kr/products/google-io-2024-keynote-sundar-pichai/

2. Idefics2: 효율적인 기초 VLM 개발을 위한 사전 학습 모델 및 아키텍처 선택의 체계적 실험 결과
대규모 언어 모델과 비전 트랜스포머의 발전으로 비전 언어 모델(VLM)의 설계에 대한 관심이 증가하고 있음에도, 많은 설계 결정들이 충분한 근거 없이 이루어지고 있습니다. 이 문제를 해결하기 위해 연구자들은 사전 학습된 모델과 아키텍처 선택, 그리고 데이터 및 학습 방법에 대한 광범위한 실험을 수행했습니다. 그 결과, 80억 개의 파라미터를 가진 효율적인 기초 VLM인 Idefics2를 개발했으며, 이 모델은 다양한 멀티모달 벤치마크에서 종종 4배 크기의 모델과 동등한 최첨단 성능을 달성했습니다.
https://huggingface.co/papers/2405.02246

-

🦸‍♂️ 오늘의 SW 스피드웨건

1. React 컴파일러
리액트 컴파일러가 공식적으로 사용가능합니다. 리액트 컴파일러는 eslint 플러그인을 포함하여 코드 품질을 높일 수 있습니다. 수동 메모화(useMemo, useCallback, React.memo)를 자동화하여 성능을 개선합니다. 실험적이므로 기존 프로젝트에 도입 시 작은 디렉토리에서 먼저 테스트하는 것을 권장합니다. 자세한 정보는 React Compiler Working Group에서 확인할 수 있습니다.
https://github.com/facebook/react/blob/main/compiler/docs/DEVELOPMENT_GUIDE.md

2. Node.js 22.2.0 릴리즈
22.2.0의 주요 변경 사항에는 --disable-wasm-trap-handler로 제한된 가상 메모리에서 wasm 실행 지원, 'withFileTypes'를 globs와 함께 사용할 수 있는 기능 추가, --inspect-wait 플래그 도입, zlib.crc32() 함수 공개 등이 포함됩니다. 또한, 새로운 eslint 플러그인과 함께 성능 개선, 여러 종속성 업데이트 및 테스트 관련 향상된 기능들도 포함되어 있습니다. 이 버전은 여전히 실험적이므로 주의가 필요합니다.
https://nodejs.org/en/blog/release/v22.2.0

• 모두의연구소에서 만든 SW 교육 "오름캠프" 수강생 모집 중!

  망설이시면 늦어요!

💻 오름캠프 Django 백엔드 개발 온라인 과정 ► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️ SW/AI 한줄 뉴스

1. ‘검색 혁명’… 복잡한 질문에도 막힘없이 답변하는 구글 AI
https://n.news.naver.com/mnews/article/005/0001696309

2. AX시대 대응하는 교육업계…AI 관련 프로그램 강화
https://n.news.naver.com/mnews/article/011/0004340867

🤵‍♂️ 빠르다 빨라 AI 세상

1. 31개의 태스크 X 10개의 모델에 LoRA를 적용한 테크니컬 리포투 LoRA Land
LoRA로 미세조정된 LLM을 실제 응용 프로그램에서 훈련하고 서비스하는 것이 실현 가능한지 평가하는 테크니컬 리포트가 발표되었습니다! 연구자들은 10개의 기본 모델과 31개의 작업, 총 310개의 모델에 대해 LoRA로 미세조정된 LLM의 품질을 측정했으며, 4비트 LoRA 미세조정 모델이 기본 모델보다 평균 34점, GPT-4보다 10점 높은 성능을 낸다는 것을 발견했습니다. 또한 연구자들은 단일 GPU에서 여러 개의 LoRA로 미세조정된 모델을 더 쉽게 배포할 수 있는 오픈소스 도구LoRAX를 개발했습니다. 이를 이용하여, 연구자들은 단일 NVIDIA A100 GPU에 25개의 서로 다른 LoRA로 미세조정된 모델을 LoRA Land라는 웹 애플리케이션에 호스팅하였습니다.
https://predibase.com/lora-land

2. 보고듣고 말하는 새로운 GPT, GPT4o 출시
OpenAI가 텍스트, 비전, 오디오기능을 포함한 GPT시리즈의 새로운 버전, GPT4o를 선보였습니다. GPT4-turbo보다 2배 빠르고 절반만큼 저렴해졌으며, 특히 실시간으로 텍스트 뿐만이 아닌 카메라와 오디오를 통한 입력을 처리하여 목소리로 응답하는 기능을 선보였습니다. OpenAI에서 행한 라이브 모에서, GPT4o는 연극톤으로 읽기, 노래하기 및 사람의 입력에 따라 반응하기 등 상황과 맥락에 맞추어 인간의 감정을 흉내내어 응답을 생성해냈으며, 카메라 입력에 따라 실시간으로 사용자의 상태와 감정부터 코드, 도표의 복잡한 정보를 분석해내었습니다. GPT4o는 벤치마크 MMLU에서 zero shot COT 88.7을 달성하는 등 다양한 벤치마크에서 기존에 발표되었던 여러 빅테크들의 LLM의 성능을 능가하였습니다. 무라티 오픈AI CTO는 GPT4o는 현재 모델 뿐만이 아닌 개발자를 위핸 API도 함께 제공하며, 몇 주 이내에 데스크톱용 어플리케이션을 제공할 것이라고 밝혔습니다.
https://openai.com/index/hello-gpt-4o/

-

🦸‍♂️ 오늘의 SW 스피드웨건

1.SQL 공동개발자, NoSQL에 찬성하다
SQL 공동 개발자인 도널드 챔벌린은 NoSQL 데이터베이스가 현대 웹 애플리케이션의 확장성과 성능 요구를 충족시키는 데 유용하다고 설명합니다. 그는 전통적인 관계형 데이터베이스는 높은 성능과 확장성을 제공하는 데 한계가 있으며, NoSQL은 이러한 문제를 해결할 수 있다고 봅니다. 예를 들어, NoSQL은 여러 기계에 데이터 분산을 통해 '결국 일관성'을 보장하여 높은 성능을 달성합니다. 또한, 챔벌린은 SQL++가 JSON 형식을 다루는 데 더 적합한 언어로 소개되었으나, SQL을 대체하지 않고 보완한다고 강조합니다.
https://www.theregister.com/2024/05/10/sql_cocreator_nosql/

2. Kotlin V2 준비
Kotlin의 K2 릴리스가 곧 다가오며, 프로젝트를 준비하는 방법을 안내합니다. 우선 Kotlin 버전을 2.0으로 업데이트하고, 필요한 경우 KSP2와 최신 린트 알파 버전으로 전환하세요. K2 컴파일러는 거의 준비가 완료되었으며, 몇 가지 주의할 점이 있습니다. K1에서 놓친 nullability 오류를 K2가 잡아낼 수 있으며, 이전 억제 메커니즘이 경고나 지원 중단될 수 있습니다. Gradle 통합 문제와 컴파일러 플러그인 호환성도 확인해야 합니다. Compose 관련 설정도 준비 단계에서 처리하세요.
https://www.zacsweers.dev/preparing-for-k2/

• 모두의연구소에서 만든 SW 교육 "오름캠프" 수강생 모집 중!

  망설이시면 늦어요!

💻 오름캠프 Django 백엔드 개발 온라인 과정 ► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️ SW/AI 한줄 뉴스

1. "오픈AI, '시리' 등 음성비서 강화할 새 멀티모달 모델 개발"
https://www.aitimes.com/news/articleView.html?idxno=159578

2. "AI, 사기 치는데 점점 능숙해져...근본적인 해결책은 없어"
https://www.aitimes.com/news/articleView.html?idxno=159580

-

🤵‍♂️ 빠르다 빨라 AI 세상

1. AlphaFold 3: 인공지능이 주도하는 생물학 연구의 새 시대
AlphaFold 3는 생물 세포 내 수십억 개의 분자 기계의 구조와 상호작용을 전례 없는 정확도로 예측할 수 있는 혁명적인 모델입니다. 이는 기존 예측 방법에 비해 최소 50% 이상의 개선을 보였으며, 생물학적 세계와 신약 개발에 대한 이해를 변화시킬 것으로 기대됩니다. 과학자들은 AlphaFold Server를 통해 무료로 대부분의 기능에 접근할 수 있으며, Isomorphic Labs는 제약회사와 협력하여 신약 설계에 활용하고 있습니다.
https://blog.google/technology/ai/google-deepmind-isomorphic-alphafold-3-ai-model/

2. Transformer의 시각적 표현 학습: 인공물 식별과 솔루션 제안
Transformer는 시각적 표현 학습에 강력한 도구로 부상했습니다. 저자들은 ViT 네트워크의 특징 맵에서 인공물을 식별하고, 이를 해결하기 위해 입력 시퀀스에 추가 토큰을 제공하는 솔루션을 제안했습니다. 이 솔루션은 지도 학습 및 자기 지도 학습 모델의 문제를 해결하고, 밀집 시각적 예측 작업에서 새로운 최고 수준을 설정하며, 객체 발견 방법을 가능하게 하고, 더 부드러운 특징 맵과 주의 맵을 생성하여 시각 처리를 개선합니다.
https://openreview.net/forum?id=2dnO3LLiJ1

-

🦸‍♂️ 오늘의 SW 스피드웨건

1.TypeScript: undefined 와 null
프로그래밍에서 **undefined**나 null 대신 명확한 의도를 가진 타입을 사용하는 것이 좋습니다. 예를 들어, Rust의 Option 타입을 모델링하여 사용자 정의 타입을 생성하면 코드의 의도가 분명해지고 타입 시스템을 통해 코드의 정확성과 이해도를 높일 수 있습니다. 또한, **undefined**와 **null**은 초기화되지 않은 상태를 나타내는 용도로만 사용하는 것이 좋습니다.
https://zkc.se/blog/undefined-is-nothing/

2. 구글의 정리해고로 Flutter와 Python 그룹이 타격을 입었습니다.
구글이 플러터, 달트, 파이썬 개발팀을 포함한 여러 팀에서 대규모 인력 감축을 단행했습니다. 이번 감축은 구글의 지속적인 비용 절감 전략의 일환으로, 특히 플러터와 파이썬 팀은 내부 툴체인 그룹과 주요 프로젝트의 중추적 인물들까지 영향을 받았습니다.
https://arstechnica.com/gadgets/2024/04/latest-google-layoffs-hit-the-flutter-and-python-groups/

• 모두의연구소에서 만든 SW 교육 "오름캠프" 수강생 모집 중!

  망설이시면 늦어요!

💻 오름캠프 Django 백엔드 개발 온라인 과정 ► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️ SW/AI 한줄 뉴스
1. JIBS제주방송, AI 앵커 도입… 매주 토요일 방송 출연
https://n.news.naver.com/mnews/article/421/0007533118

2.구글 딥마인드, '알파폴드 3' 공개..."단백질 생성 넘어 생체 분자 예측으로 확장"
https://www.aitimes.com/news/articleView.html?idxno=159481
-

🤵‍♂️ 빠르다 빨라 AI 세상
1. 트랜스포머와 S4의 성능 향상: 데이터 주도 초기화의 놀라운 적용
이 연구는 인공지능 모델이 장기 의존성을 학습할 때 초기화 방법이 중요하다는 것을 보여줍니다. 특히, 자기 지도 학습을 이용한 사전 훈련을 통해 모델의 성능이 크게 향상될 수 있음을 확인했습니다. 이 방법은 트랜스포머와 상태 공간 모델(S4)에 적용하여, 표준 벤치마크에서 기존의 성능을 크게 개선하는 결과를 도출했습니다. 데이터 주도의 초기화를 통해 더 단순한 모델도 복잡한 아키텍처의 성능을 달성할 수 있음을 입증했습니다.
https://openreview.net/forum?id=PdaPky8MUn

2. 단백질 발견과 디자인의 새로운 지평: Discrete Walk-Jump Sampling
이 논문에서는 단백질 발견과 디자인을 위해 이산형 생성 모델을 훈련하고 샘플링하는 새로운 방법을 제안하였습니다. 'Discrete Walk-Jump Sampling' 방법론은 에너지 기반 모델과 점수 기반 모델을 통합하여 고정된 어휘를 가진 이산 시퀀스 입력에 적용되었습니다. 이 방법은 고도의 표현력을 지닌 샘플을 신속하게 생성하며, 실제 실험을 통해 생성된 항체 시퀀스의 효능과 다양성을 입증하였습니다.
https://openreview.net/forum?id=zMPHKOmQNb

-

🦸‍♂️ 오늘의 SW 스피드웨건
1.모든 자바스크립트 개발자가 이해해야 하는 함수
자바스크립트 개발자가 반드시 알아야 할 주요 함수들을 설명하고 있습니다. 특히 forEach 함수를 사용하여 컬렉션을 반복하는 방법을 강조하며, 이는 함수형 프로그래밍을 적극적으로 활용하는 현대적 접근 방식을 보여줍니다. 또한, 자바스크립트의 array 함수에 대해서도 언급하고 있으며, 이는 값의 컬렉션을 저장하는 데 필수적인 기능임을 설명합니다. 이 자료는 자바스크립트를 처음 배우는 사람들에게 유용한 지침을 제공하며, 경험 많은 개발자들에게도 유익한 참고자료가 될 수 있습니다.
https://coderoasis.com/js-functions-developers-need/

2. PostgreSQL 16.3, 15.7, 14.12, 13.15 및 12.19가 출시되었습니다!
PostgreSQL의 여러 버전(16.3, 15.7, 14.12, 13.15, 12.19)에 대한 업데이트를 발표했습니다. 이 업데이트는 보안 취약점 하나와 55개 이상의 버그를 수정합니다. 취약점은 특정 시스템 뷰에서 권한이 없는 데이터 열람을 가능하게 했으며, 새로운 설치에서만 수정됩니다. 기존 설치의 경우 지정된 SQL 스크립트를 실행하여 문제를 해결해야 합니다.
https://www.postgresql.org/about/news/postgresql-163-157-1412-1315-and-1219-released-2858/

-

💻 오름캠프 Django 백엔드 개발 온라인 과정 ► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️ SW/AI 한 줄 뉴스

1. 창작자를 짓눌러? 아이패드 AI 광고에 폭발…애플 “죄송”
https://n.news.naver.com/mnews/article/028/0002688836

2. 카카오, 'AI 연구개발' 본사로 통합..."채팅형 생성 AI 본격 선보일 것"
https://www.aitimes.com/news/articleView.html?idxno=159514

🤵‍♂️ 빠르다 빨라 AI 세상

1. 인공지능 하드웨어, 빠른 학습 능력 획득
인공지능 연구진은 뇌의 학습 방식을 모방한 'Learning-to-learn' 기술을 차세대 인공지능 하드웨어에 접목시켜 새로운 과제를 빠르게 학습하는 데 성공했습니다. 이 기술을 이미지 분류와 로봇 제어 등 다양한 과제에 적용한 결과, 기존 소프트웨어 기반 모델과 유사한 성능을 보였습니다. 특히 단 한 번의 업데이트만으로도 로봇 팔의 움직임을 학습할 수 있었던 점이 주목할 만합니다. 연구진은 정밀도가 다소 낮은 메모리 소자를 사용했음에도 훌륭한 성능을 얻을 수 있었다고 밝혔습니다. 이번 연구 성과는 적은 계산량으로 효율적인 인공지능 구현이 가능함을 시사하며, 향후 자율주행 자동차나 로봇 등 다양한 분야에서 활용될 것으로 기대를 모으고 있습니다.
https://arxiv.org/abs/2405.05141

2. 인공지능 시대, 사무직의 미래는?
최근 연구에 따르면 인공지능과 업무 자동화로 인해 2029년까지 미국에서 약 100만 개의 사무직이 사라질 것으로 전망됩니다. 사무직 종사자들은 미국 경제에서 중요한 역할을 담당하고 있지만, 인공지능 기술과 사무직의 접점에 대한 연구는 아직 부족한 실정입니다. 이에 연구진은 관련 학술 문헌을 분석하여 핵심 연구 분야와 최신 동향을 파악했습니다. 분석 결과, 스마트 빌딩, 로봇공학, 사물인터넷 등이 사무직 분야의 새로운 화두로 떠오르고 있었습니다. 하지만 정작 사무직 종사자들의 전문성 개발에 대한 연구는 상대적으로 적었다고 합니다. 전문가들은 인공지능 시대에 사무직 종사자들의 역량 강화와 적응력 향상을 위한 연구와 정책 마련이 시급하다고 강조했습니다.
https://arxiv.org/abs/2405.03808

🦸‍♂️ 오늘의 SW 스피드웨건

1. 파이썬 3.13의 새로운 기능
파이썬 3.13 버전은 새로운 인터랙티브 인터프리터와 JIT 컴파일러를 도입하였으며, 타이핑 기능 강화, 글로벌 인터프리터 잠금(GIL) 해제 지원 등이 포함되어 있습니다. 또한 iOS를 공식 지원 플랫폼으로 추가하였습니다.
https://docs.python.org/3.13/whatsnew/3.13.html

2. 최고의 Java 개발자를 고용하는 방법
자바 개발자를 고용하는 과정은 조직의 문화와 요구 사항에 맞는 전문가를 찾는 것을 포함합니다. 프로젝트 요구를 명확히 하고, 적합한 개발자를 선별하는 것이 중요합니다. 자바 개발자는 웹, 모바일 앱 개발, 시스템 통합, 유지 관리 등 다양한 분야에서 활용되어 비즈니스 성장을 도모합니다.
https://www.clariontech.com/blog/how-to-hire-java-developers-in-india

-

📊 AI학교 아이펠 데이터 사이언티스트 온라인 과정

💻 오름캠프 Django 백엔드 개발 온라인 과정
► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️ SW/AI 한줄 뉴스

1. 생성AI, 체험부터 최적화 모델 산출까지… LG CNS '젠AI' 스튜디오 오픈
https://n.news.naver.com/mnews/article/008/0005035776

2. 미국, '첨단 AI 모델 접근 금지'로 중국 기술 제재 확대
https://www.aitimes.com/news/articleView.html?idxno=159472

🤵‍♂️ 빠르다 빨라 AI 세상

1. UniSim: 가상과 현실 세계를 잇는 보편적 시뮬레이터의 탄생
이번 특집은 ICLR 2024에서 뽑은 Outstanding Award수상 논문으로 진행하겠습니다. 첫번째 논문은 보편적 시뮬레이터(UniSim)의 개발을 통해 다양한 데이터셋을 통합하고, 실제 세계와 유사한 시각적 경험을 모방할 수 있는 시뮬레이터를 구축한 논문입니다. 이 기법으로 로봇이나 다른 인터랙티브 에이전트들이 실제 세계와 비슷한 환경에서 학습할 수 있도록 지원합니다. UniSim은 고수준의 비전-언어 정책과 저수준의 제어 정책을 학습하는 데 사용되며, 시뮬레이션만으로 훈련된 이러한 정책들은 실제 로봇 설정에서도 적용될 수 있습니다. 또한, UniSim을 통해 생성된 시뮬레이션 경험은 비디오 캡션 모델과 같은 다른 형태의 인공지능 훈련에도 활용될 수 있습니다.
https://openreview.net/forum?id=sFyTZEqmUY

2. 디퓨전 모델의 새로운 지평: 기하 적응형 조화 표현과 일반화
두번째로 뽑힌 논문은 디퓨전 모델에서 기하 적응형 조화 표현이 일반화에 기여한다는 연구 결과에 대한 논문입니다. 이는 이미지 노이즈 제거를 위해 훈련된 심층 신경망이 고품질의 샘플을 생성할 수 있음을 의미합니다. 특히, 훈련 데이터 세트가 충분히 클 때, 두 개의 신경망이 거의 동일한 점수 함수와 밀도를 학습하며, 이는 강력한 일반화를 나타냅니다. 또한, 이러한 네트워크들은 기하학적으로 적응 가능한 조화 기저를 사용하여 노이즈 제거 작업을 수행함으로써 효과적인 밀도 추정이 가능합니다.
https://openreview.net/forum?id=ANvmVS2Yr0

🦸‍♂️ 오늘의 SW 스피드웨건

1. AI/ML에 파이썬을 사용하는 이유는 무엇인가요?
파이썬은 AI/ML 프로젝트에 가장 선호되는 언어로, 다양한 데이터 세트를 쉽게 처리하고 복잡한 데이터 구조를 효과적으로 다룰 수 있는 라이브러리를 제공합니다. 또한, 커뮤니티 지원과 협업이 용이하여 개발자가 AI와 ML의 잠재력을 최대한 발휘할 수 있게 합니다.
https://www.clariontech.com/blog/why-use-python-for-ai-ml

2. TypeScript용 Encore
Encore for TypeScript는 이제 타입스크립트 개발자들도 쉽게 백엔드 서비스와 API를 만들고 클라우드 인프라를 사용할 수 있게 해줍니다. 러스트로 구축된 고성능 시스템을 통해 노드.js 생태계와 완벽하게 호환되며 성능을 대폭 향상시킵니다. 사용법도 간단하여 **encore run**만으로 로컬 인프라가 자동 설정됩니다.
https://encore.dev/blog/encore-for-typescript#introducing-encore-for-typescript

-

📊 AI학교 아이펠 데이터 사이언티스트 온라인 과정

💻 오름캠프 Django 백엔드 개발 온라인 과정
► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️ SW/AI 한줄 뉴스
1. 치매 조짐 파악·말동무…“효도하는 AI”
https://n.news.naver.com/mnews/article/056/0011716436

2. 패스트푸드점 직원을 AI 챗봇으로 바꾸는 숨겨진 이유는 '데이터'
https://www.aitimes.com/news/articleView.html?idxno=159403

-

🤵‍♂️ 빠르다 빨라 AI 세상
1. AI와 이산화탄소 포집의 만남: 기후변화 대응을 위한 혁신적 접근
조지아 공과대학과 메타가 기후변화 문제에 대응하기 위한 AI 솔루션을 개발하고자 대규모 공개 데이터베이스를 만들었습니다. 이 데이터베이스는 다양한 환경에서의 이산화탄소 직접 포집 기술을 향상시키기 위해 설계되었습니다. 이 프로젝트는 이산화탄소를 효율적으로 포집할 수 있는 새로운 재료를 발견하고 검증하는 데 AI 모델을 활용하여, 기존 화학 시뮬레이션보다 수백 배 빠른 속도로 결과를 예측할 수 있습니다.이 프로젝트를 통해 기술적인 도전을 극복하고 지속 가능한 방식으로 환경 문제에 접근하려는 노력이 강조되었습니다. 또한, 이 기술이 상용화될 경우 지구 온난화를 완화하는 데 큰 도움이 될 것으로 기대됩니다.
https://ai.meta.com/blog/georgia-tech-opendac-carbon-emissions-direct-air-capture/

2. AI 시대의 새로운 보안 패러다임: OpenAI의 비전
OpenAI는 AI 기술의 발전에 따라 보안 인프라를 새롭게 구상하고 있습니다. 이를 위해 AI 가속기에 대한 신뢰할 수 있는 컴퓨팅, 네트워크 및 테넌트 분리 보장, 데이터센터의 운영 및 물리적 보안 혁신 등 여섯 가지 보안 조치를 제안하고 있습니다. 이러한 조치들은 기존의 사이버 보안 관행을 보완하고 AI 보안을 강화하기 위해 필요합니다. AI 특화 감사 및 규정 준수 프로그램 개발과 AI를 이용한 사이버 방어에 대한 투자도 강조되고 있습니다. 이 보안 조치들을 통해 인공지능 기술이 더 안전하게 발전할 수 있는 환경을 마련하는 것이 중요합니다. 특히, 고도화된 AI의 신뢰성을 높이기 위한 연구와 구현이 점차 중요해지고 있습니다.
https://openai.com/index/reimagining-secure-infrastructure-for-advanced-ai

-

🦸‍♂️ 오늘의 SW 스피드웨건
1. JAVA: SpringBoot 3/ Spring Security 6 사용한 OAuth 2.0 (소셜 로그인)
이 글에서는 Spring Boot 3 애플리케이션에서 GitHub과 Google 같은 소셜 로그인을 OAuth 2.0을 사용하여 설정하는 방법을 설명합니다. OAuth 2.0은 사용자의 비밀번호 없이 제3자 서비스가 안전하게 사용자 데이터에 접근할 수 있도록 하는 표준 프로토콜입니다. 또한, Spring Boot는 OAuth-client를 내장하여 소셜 로그인을 쉽게 통합할 수 있게 돕습니다. 본문에서는 Google 계정을 이용하여 자동차 예약 사이트에 로그인하는 과정을 예로 들어 OAuth 2.0의 작동 방식을 설명하고 있습니다. 이 프로젝트는 OAuth2 클라이언트 통합과 웹 애플리케이션 개발을 위한 의존성을 사용하며, 주 목적은 API를 보안하고 소셜 로그인을 통한 접근을 활성화하는 것입니다.
https://www.unlogged.io/post/spring-security-6---oauth-2-0-social-login-with-springboot-3

2. Google: Flutter 팀의 규모는 어느 정도인가요?
Flutter 커뮤니티에는 많은 사람들이 기여하고 있으며, '커밋 권한'을 가진 사람은 약 280명입니다. 그러나 실제 활동하는 기여자 수는 이보다 많으며, 최근 데이터 분석 결과 약 94,357명이 기여한 것으로 나타났습니다. 이 중 지속적으로 기여하는 사람은 3,839명이며, 이들 중 대부분은 Google과 같은 회사 소속이 아닌 독립적으로 활동하는 개인입니다.
https://ln.hixie.ch/?start=1714717681

-

📊 AI학교 아이펠 데이터 사이언티스트 온라인 과정

💻 오름캠프 Django 백엔드 개발 온라인 과정
► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️ SW/AI 한줄 뉴스
1. "애플, 데이터센터용 AI 반도체 개발 중"…AI 반전 노리나
https://n.news.naver.com/mnews/article/008/0005034733

2. 유재석·홍진경 사칭 잡아낸다…1200억원대 사기 범죄 막는 마크비전
https://n.news.naver.com/mnews/article/015/0004981174

-

🤵‍♂️ 빠르다 빨라 AI 세상
1. PROMETHEUS 2: 상용 언어 모델 평가자를 능가하는 오픈소스의 힘
이 논문은 오픈소스 언어 모델 PROMETHEUS 2를 소개하여, 다른 언어 모델의 응답을 평가하는 데 특화된 모델을 제시합니다. PROMETHEUS 2는 기존의 오픈소스 평가 모델들과 달리, 직접 평가(direct assessment)와 쌍대 비교(pairwise ranking)를 모두 수행할 수 있으며, 사용자 정의 평가 기준에 따라 평가할 수 있습니다. 4개의 직접 평가 벤치마크와 4개의 쌍대 비교 벤치마크에서 PROMETHEUS 2는 인간 평가자 및 상용 언어 모델 평가자와 가장 높은 상관관계와 일치도를 보였습니다. 이는 직접 평가와 쌍대 비교에 각각 학습된 두 모델의 가중치를 병합하는 방법을 통해 달성되었습니다.
https://arxiv.org/pdf/2405.01535

2. LoRA 파인튜닝의 혁신: 기본 모델과 GPT-4를 능가하는 성능
이 기술 보고서에서는 10개 기본 모델과 31개 작업에 걸쳐 LoRA로 파인튜닝된 310개의 LLM을 평가한 결과, 4-bit LoRA 파인튜닝 모델이 기본 모델보다 34점, GPT-4보다 10점 우수한 성능을 보였습니다. Mistral-7B와 Zephyr-7B가 LoRA 파인튜닝에 가장 효과적인 기본 모델로 나타났고, 작업 복잡성 휴리스틱이 파인튜닝 성능 향상을 예측하는 데 유용함을 확인했습니다. 또한 LoRAX 프레임워크를 통해 단일 GPU에서 25개의 LoRA 파인튜닝 모델을 서빙하는 LoRA Land 웹 앱을 시연함으로써, 전문화된 여러 LLM을 배포하는 것이 범용 LLM 하나를 사용하는 것보다 품질과 비용 효율성 측면에서 우수함을 보여줍니다.
https://huggingface.co/papers/2405.00732

-

🦸‍♂️ 오늘의 SW 스피드웨건
1. Rust가 C++를 없애지 않는 이유
C++과 Rust에 대한 인터넷의 논쟁은 C++의 존폐를 과장한다. C++은 향후 오랜 시간동안 유지될 것이다. C++은 기본 개념을 이해하는 데 도움이 되며, 수익성 있는 직업 기회를 제공한다. 또한, C++의 개발자 인력은 Rust보다 풍부하며, 이는 중요한 산업 분야에서 더 높은 생산성을 도모한다. Rust가 C++을 완전히 대체할 가능성은 낮다.
https://societysbackend.com/p/why-rust-isnt-killing-c

2. python 컴파일
이 글은 Python이 컴파일과 해석의 원리를 탐구하며, 이 둘의 차이를 강조하고, 파이썬 코드 작성에 미치는 영향을 분석한다. 파이썬은 해석기를 사용하여 코드를 실행하며, 컴파일 과정 없이 변경 사항을 즉시 테스트할 수 있어 개발 주기를 빠르게 만든다. 그러나 해석 과정에서는 실행이 느려질 수 있으며, 컴파일의 일부 형태로 compile() 함수를 제공한다. 컴파일이 필요한 경우에는 JIT 컴파일 또는 확장 모듈 작성과 같은 특정 상황에서 사용된다.
https://blogtheday.com/python-compile/

-

🤖 AI학교 아이펠 데이터 사이언티스트 온라인 과정

💻 오름캠프 Django 백엔드 개발 온라인 과정
► https://bit.ly/3UdtWej 

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️ SW/AI 한줄 뉴스
1. [이준기의 D사이언스] "AI시대, 증강인 같은 신인류 등장할것… 공존법 찾아야할때"
https://n.news.naver.com/mnews/hotissue/article/029/0002863276?type=series&cid=1089115

2."박은빈·손석구 아역이 AI?"…미디어에 들어온 AI 딥페이크 논란
https://n.news.naver.com/mnews/article/421/0007518886

-

🤵‍♂️ 빠르다 빨라 AI 세상
1. AI Expo 2024 Korea 성황리에 개최
최신 인공지능(AI) 기술의 진화를 한자리에서 확인할 수 있는 'AI Expo 2024'가 5월 1일부터 3일간 서울 코엑스에서 성황리에 개최중입니다. 제조, 교육 등 다양한 산업 도메인에서 국내외의 120여개의 기업이 참가하였으며, 다음의 형태로 AI 기술의 다양한 적용 사례를 선보였습니다.

• edge-device AI

• 데이터 합성

• 생성 AI와 탐지 AI

• 도메인 / 개인화 맞춤형 AI

• LLM + 검색 증강(RAG), 자체 LLM 개발 또는 배포된 LLM 활용

• 비전 분석 활용 : 얼굴 인식, 포즈 추정 등의 도메인 특화 모델, Foundation 모델 활용 사례는 아직 제한적

• 클라우드 서비스를 통한 연구/개발 환경 원격화, 사업 중앙 관리 솔루션

• 환경 세팅부터 결과 도출까지 통합적으로 제공하는 엔드투엔드 솔루션

http://www.aiexpo.co.kr/home/

2. 비디오로 확장된 자연스러운 가상피팅기술, Tunnel try-on
알리바바 그룹에서 Video에서 가상피팅 적용이 가능한 기술을 선보였습니다. 비디오에서 가상피팅을 재현하는 데에 있어, 의복의 디테일을 보존하며 일관된 움직임을 모델링하는 데에 어려움이 있었는데요, 프로젝트 연구자들은 'Tunnel try-on"이라는 diffusion 기반 프레임워크를 제안합니다. 핵심 아이디어는 입력 비디오에서 의복 영역 주변의 클로즈업 샷을 제공하는 "포커스 터널"을 발굴하는 것입니다. 의복의 디테일을 더 잘 보존하기 위해 터널 내 영역에 줌인합니다. 일관된 움직임을 생성하기 위해 Kalman filter를 적용, 포커스 터널 내에서 부드러운 자르기를 구성하고, 생성된 비디오의 연속성을 개선하기 위해 diffusion network 내 attention layer에 positional embedding을 주입했습니다. 터널 외부의 컨텍스트 정보에서는 보조 단서를 추출하여 활용할 수 있도록 environment encoter를 함께 적용하였습니다. 연구자들은 이를 통해 의복의 디테일을 유지하면서도, 안정적이고 부드럽게 비디오를 합성해냈습니다
https://mengtingchen.github.io/tunnel-try-on-page/

-

🦸‍♂️ 오늘의 SW 스피드웨건
1. Docker without Dockerfile
이 게시물에서는 Dockerfile 없이 로컬에서 실행 가능한 Ruby on Rails 응용 프로그램의 OCI 이미지를 만드는 방법을 소개합니다. 여기서는 CNB(Cloud Native Buildpack) 생태계와 pack CLI 도구 사용법을 배울 수 있습니다. 먼저 pack CLI를 설치하고, 기본 빌더로 'heroku/builder:22'를 설정합니다. 빌더는 기본 이미지와 빌드팩을 포함하는데, 이 빌드팩이 응용 프로그램을 실행할 이미지를 구성하는 주요 부분입니다.
https://www.schneems.com/2024/05/01/build-a-ruby-on-rails-application-image-in-5-minutes-no-dockerfile-required/

2. Java로 나만의 가비지 컬렉터 구현하기
이 가이드는 자바 개발자가 자신만의 커스텀 자바 가비지 컬렉터를 설계하고 구현하는 방법을 이해하는 데 도움을 주기 위한 것입니다. 자바의 메모리 모델, 특히 힙과 스택을 완전히 이해하는 것이 중요하며, 커스텀 메모리 할당 시 고정 크기 블록, 가변 크기 블록 또는 두 가지의 조합을 고려해야 합니다. 또한 메모리 정렬과 단편화 최소화 전략을 고려해야 합니다.
https://coderoasis.com/custom-java-garbage-collector/

-

📊 AI학교 아이펠 데이터 사이언티스트 온라인 과정

💻 오름캠프 Django 백엔드 개발 온라인 과정 ► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️  SW/AI 한줄 뉴스
1. 애플, 5월 출시 아이패드에 최신 AI 칩 탑재...최초의 'AI 태블릿' 시대 연다
https://www.aitimes.com/news/articleView.html?idxno=159209

2. SK텔레콤, '韓 통신 특화 LLM' 6월 출시… "서비스 따라 LLM 골라 쓰는 멀티 전략"
https://n.news.naver.com/mnews/article/366/0000989636

-

🤵‍♂️ 빠르다 빨라 AI 세상
1. 교차 변수 인코더와 교차 시간 인코더의 만남, CVTN의 탄생
CVTN은 시계열 예측을 위해 교차 변수 인코더(CVE)와 교차 시간 인코더(CTE)를 결합하는 새로운 신경망 구조를 제안합니다. CVE는 과거 시퀀스에서 변수 간 의존성을 학습하고, CTE는 예측 시퀀스의 시간적 의존성을 모델링합니다. 이러한 2단계 학습을 통해 과거 시퀀스에서 효과적으로 정보를 추출하고 예측 시퀀스의 시간 패턴을 잘 파악할 수 있습니다. 실험 결과, CVTN은 다양한 실제 데이터셋에서 최신 모델들을 능가하는 성능을 보여주었습니다.
https://arxiv.org/pdf/2404.18730

2. 디퓨전모델이 시계열 및 시공간 데이터 분석에서 활용되는 방법
이 서베이 논문은 시계열 및 시공간 데이터 분석을 위한 디퓨전 모델의 최신 동향을 종합적으로 다룹니다. 디퓨전 모델을 조건부와 무조건부로 분류하고, 이를 예측 및 생성 작업에 적용하여 각각 시계열과 시공간 데이터에 대해 분석합니다. 또한 헬스케어, 교통, 기후, 에너지, 오디오 등 다양한 응용 분야에서의 활용 사례를 소개합니다. 이를 통해 디퓨전 모델이 시계열 및 시공간 데이터 분석에서 직면한 도전과제를 해결하고 혁신적인 방안을 모색하는 데 기여할 것으로 전망합니다.
https://arxiv.org/pdf/2404.18886

-

🦸‍♂️ 오늘의 SW 스피드웨건
1. 시간 경과에 따른 PostgreSQL 지원 플랫폼
PostgreSQL은 다양한 운영체제를 지원하며 시간이 지남에 따라 몇몇 플랫폼은 지원 중단되었습니다. 최근에는 AIX 지원이 중단되었고, 현재 주요 지원 플랫폼은 8개입니다. 이와 함께, 플랫폼 변종을 지원하기 위한 노력이 지속되고 있습니다.
https://peter.eisentraut.org/blog/2024/04/29/postgresql-supported-platforms-over-time

2. Kotlin을 선택하는 이유
Kotlin은 자바에 비해 여러 장점을 가지고 있습니다. Kotlin은 널 안전성, 불변성, 구조화된 동시성을 지원하며, 현대적인 문법과 간결함으로 개발자 경험을 향상시킵니다. 이에 더해, 함수형 프로그래밍과 비동기 처리가 간편하여 Java보다 우수한 선택으로 평가받고 있습니다.
https://rockyj-blogs.web.app/2024/04/27/why-kotlin.html

-

📊 AI학교 아이펠 데이터 사이언티스트 온라인 과정

💻 오름캠프 Django 백엔드 개발 온라인 과정
► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️ SW/AI 한줄 뉴스
1. “나는솔로 옥순이만 골라보기 가능”…KT AI 특화 기술로 미디어 혁신
https://n.news.naver.com/mnews/article/016/0002301520

2. AI 살바도르 달리가 답해주는 '랍스터 전화기' 등장
https://www.aitimes.com/news/articleView.html?idxno=159180

-

🤵‍♂️ 빠르다 빨라 AI 세상
1. LayerSkip: 대규모 언어 모델의 추론 속도 향상을 위한 end-to-end 솔루션
메타에서 나온 LayerSkip은 대규모 언어 모델의 추론 속도를 높이기 위한 end-to-end 솔루션입니다. 학습 시에는 이전 레이어의 dropout을 낮게, 이후 레이어의 dropout을 높게 설정하고 모든 transformer 레이어가 공유하는 early exit loss를 적용합니다. 추론 시에는 이 학습 방식이 이전 레이어에서의 early exit 정확도를 높여주며, 추가적인 레이어나 모듈 없이도 가능합니다. 또한 초기 레이어에서 먼저 exit하고 나머지 레이어를 통해 검증 및 수정하는 self-speculative decoding 방식을 제안하였고, 이는 기존 방식 대비 메모리 사용량이 적고 draft와 검증 단계의 계산을 공유할 수 있다는 장점이 있습니다. 다양한 학습 세팅에서의 실험을 통해 요약, 코딩, 의미 분석 등의 태스크에서 최대 2.16배의 속도 향상을 달성하였습니다.
https://huggingface.co/papers/2404.16710

2. InternVL 1.5: 개방형과 상용 모델 간 성능 격차 해소를 위한 오픈소스 멀티모달 언어 모델
InternVL 1.5는 개방형과 상용 모델 간의 성능 격차를 줄이기 위해 개발된 오픈소스 멀티모달 대규모 언어 모델입니다. 이 모델은 지속 학습 전략을 통해 강력한 비전 인코더를 구축하고, 동적 고해상도 전략을 채택하며, 고품질의 이중언어 데이터셋을 활용하여 OCR 관련 작업과 중국어 관련 이해 능력을 크게 향상시켰습니다. 18개의 벤치마크에 대한 평가 결과, InternVL 1.5는 최신 상용 모델과 견줄 만한 성능을 보였고, 8개 벤치마크에서는 최고 성능을 달성하였습니다. 또한 정성적 평가에서도 GPT-4V와 비교하여 우수한 성능을 보여주었습니다. InternVL 1.5는 멀티모달 이해 분야에서 오픈소스 모델의 발전에 기여할 것으로 기대됩니다.
https://huggingface.co/papers/2404.16821

-

🦸‍♂️ 오늘의 SW 스피드웨건
1. 루비 온 레일에서 n+1
N + 1 문제는 Rails의 Active Record ORM을 사용할 때 발생하는 성능 문제입니다. 예를 들어, 여러 사용자의 팀 이름을 조회할 때 각 사용자마다 별도의 쿼리를 실행하여 데이터를 가져오는데, 이로 인해 예상보다 많은 데이터베이스 쿼리가 발생합니다. 이 문제를 해결하기 위해 includes 메소드를 사용하여 관련 데이터를 한 번에 로딩함으로써 쿼리 수를 줄일 수 있습니다. 이러한 방식은 데이터베이스의 부하를 줄이고 성능을 개선하는 데 도움이 됩니다.
https://www.visuality.pl/posts/n-1-in-ruby-on-rails

2. Java에서 null이 객체라면 어떨까요?
이 블로그에서는 자바의 null과 스몰토크의 nil을 비교하여 설명합니다. 자바는 순수 객체 지향 언어가 아니며, 프리미티브 타입과 null 처리가 그 예입니다. 반면, 스몰토크는 모든 것이 객체라는 순수 객체 지향 언어입니다. 이러한 차이점을 통해 다른 언어에서 null을 다루는 방식을 탐색함으로써 자바 개발자들에게 새로운 가능성을 제시하고자 합니다.
https://donraab.medium.com/what-if-null-was-an-object-in-java-3f1974954be2

-

📊 AI학교 아이펠 데이터 사이언티스트 온라인 과정

💻 오름캠프 Django 백엔드 개발 온라인 과정
► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️  SW/AI 한줄 뉴스

1. 애플, 오픈AI와 동맹 카드 '만지작'
https://n.news.naver.com/mnews/article/009/0005295294

2. 중국서 자칭 '소라 라이벌' 등장..."아키텍처도 흡사"
https://www.aitimes.com/news/articleView.html?idxno=159185

-

🤵‍♂️ 빠르다 빨라 AI 세상

1. Bllossom: 어휘 확장, 이중언어 정렬, 지시 데이터셋 구축으로 MLLM의 한국어 성능 혁신
본 연구는 다국어 대규모 언어 모델(MLLM)의 성능 향상을 위해 세 가지 전략을 제안합니다. 첫째, MLLM의 한국어 어휘를 확장하여 표현력을 높이고, 둘째, 고자원어와 저자원어의 정렬을 위해 이중언어 데이터를 사전학습에 활용하며, 셋째, 고품질의 소규모 지시 데이터셋을 구축하여 모델을 강화합니다. 실험에는 Llama2 모델과 한국어가 사용되었으며, 제안 모델인 Bllossom은 8개 작업에 대해 정량적 평가를 진행한 결과 기존 모델 대비 우수한 성능을 보였고, 사람과 GPT4를 활용한 정성 평가에서도 동일 규모의 한국어 단일언어 모델보다 93% 우수한 성능을 나타내었습니다.
https://arxiv.org/abs/2403.10882

2. CatLIP: 대조 학습 계산 개선으로 웹 스케일 이미지-텍스트 데이터에서의 비전 모델 사전학습 속도 2.7배 향상
CatLIP은 웹 스케일의 이미지-텍스트 데이터에서 대조 학습의 계산 과정을 개선하여 학습 속도를 2.7배 높인 약지도 학습 기반의 비전 모델 사전학습 방법입니다. 사전학습을 다중 레이블 분류 문제로 재구성하여 대조 손실에서의 유사도 계산 필요성을 제거하였습니다. 다양한 비전 태스크에서의 실험을 통해 CatLIP이 CLIP 수준의 성능을 유지하면서도 훨씬 빠른 학습이 가능함을 보였습니다. 또한 CatLIP으로 사전학습된 분류기 레이어를 전이함으로써 전이학습 효율성을 개선하는 방안도 제시하였습니다. CatLIP은 효율적이고 효과적인 웹 스케일 데이터에서의 비전 모델 사전학습을 가능케 합니다.
https://huggingface.co/papers/2404.15653

-

🦸‍♂️ 오늘의 SW 스피드웨건

1. TypeScript 5.5 Beta
TypeScript 5.5 베타 버전이 출시되었습니다. 주요 기능으로는 추론된 타입 조건, 상수 인덱스 접근의 제어 흐름 축소, JSDoc 내 타입 임포트, 정규 표현식 문법 검사, 고립 선언 등이 있습니다. 또한, 성능 개선과 에디터 및 감시 모드의 안정성 향상도 이루어졌습니다. 해당 베타 버전은 npm을 통해 설치할 수 있습니다.
https://devblogs.microsoft.com/typescript/announcing-typescript-5-5-beta/

2. React 19 Beta
React 19 베타 버전이 npm을 통해 출시되었습니다. 이 버전에서는 데이터 변경과 상태 업데이트를 자동으로 처리하는 'Actions' 기능이 추가되어 비동기 함수를 사용한 상태 관리가 간소화됩니다. 또한, 새로운 후크인 'useActionState'와 'useOptimistic'을 통해 최적화 업데이트와 폼 관리가 향상되었습니다. 자세한 업그레이드 지침은 React 19 베타 업그레이드 가이드에서 확인할 수 있습니다.
https://react.dev/blog/2024/04/25/react-19

-

📊 AI학교 아이펠 데이터 사이언티스트 온라인 과정

💻 오름캠프 Django 백엔드 개발 온라인 과정
► https://bit.ly/3UdtWej

[MLOps Now 5월 무료 밋업 행사 안내]

안녕하세요.
<VESSL AI>와 Vector DB으로 유명한 실리콘벨리 LLMOps 대표 스타트업 <Pinecone>이 뭉칩니다.
베슬에이아이, 파인콘, 라이너 세 팀이 각자의 서비스를 기반으로 fine-tuning, RAG, prompt engineering 등 LLM 개발에 적용되는 주요 기법 소개할 예정인데요.
실전 서비스 도입에 있어 각 기법의 "best practice"와 장단점을 알아가는 좋은 기회가 될 것 같습니다!

• 베슬에이아이 — 쉽고 빠르게 커스텀 LLM을 파인튜닝, 배포하는 방법

• 파인콘 — Vector DB를 적용해 RAG로 "context-augmented LLM"을 개발하는 방법

• 라이너 — 천만명이 이용하는 GPT-4 기반 AI 코파일럿 개발기

https://lu.ma/mlops-now-may

• 일시 — 2024년 5월 7일 (화) 오후 2시~6시

• 장소 — 모두의연구소 강남캠퍼스 (https://naver.me/FslREXGR)

발표 내용 및 연사

• 쉽고 빠르게 커스텀 LLM을 테스트, 파인튜닝, 배포하는 방법

• 안재만, Co-founder & CEO, VESSL AI

• Building context-augmented LLMs with RAG & Vector DB

•  Mïchael Maкaröv, Staff Software Engineer, Pinecone

• 천만명이 이용하는 GPT-4 기반 AI 코파일럿 개발기

• 허훈, Technical Lead, Liner

(연사 및 발표 내용은 변경 및 추가될 수 있으며, 변경이 있을 경우 신청자들 대상으로 다시 안내드리겠습니다)

행사 신청하기 → https://lu.ma/mlops-now-may

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️  SW/AI 한줄 뉴스
1. 카카오엔터, AI로 홍보용 숏츠 신속 제작하는 '헬릭스 숏츠' 공개
https://n.news.naver.com/mnews/article/421/0007505064

2. 세계 최초 AI 생성 유전자 편집기 ‘오픈크리스퍼-1’ 등장
https://www.aitimes.com/news/articleView.html?idxno=159052

-

🤵‍♂️ 빠르다 빨라 AI 세상
1. 분홍코끼리는 생각하지마!
이 논문은 대규모 언어 모델이 '하얀 곰 현상', 즉 어떤 생각을 하지 않으려고 할수록 오히려 더 그 생각에 사로잡히는 인간의 인지적 약점을 공유한다는 점을 보여줍니다. 이는 모델의 구조적 특성과 잘 훈련된 표현 공간의 선형성 때문에 발생하는 것으로 분석되었습니다. 저자들은 이 현상을 이용한 프롬프트 기반 공격 기법을 제안하고, 이에 대응하기 위해 인지 행동 치료에서 영감을 얻은 방어 전략을 소개합니다. 제안된 방어 기법은 공격 성공률을 최대 48.22%까지 낮출 수 있었습니다.
https://arxiv.org/pdf/2404.15154

2. MH-MoE: 멀티 헤드 메커니즘으로 SMoE 모델의 전문가 활성화와 맥락 이해 향상
Multi-Head Mixture-of-Experts (MH-MoE)는 기존 Sparse Mixtures of Experts (SMoE) 모델의 낮은 전문가 활성화와 세밀한 분석 능력 부족 문제를 해결하기 위해 제안된 방법입니다. MH-MoE는 멀티 헤드 메커니즘을 통해 각 입력 토큰을 여러 개의 서브 토큰으로 분할하고, 이를 다양한 전문가에게 병렬로 할당 및 처리한 후 원래 토큰 형태로 통합하는 방식으로 동작합니다. 이를 통해 전문가 활성화를 크게 높이고 다양한 표현 공간의 정보를 종합하여 맥락 이해를 심화할 수 있습니다. MH-MoE는 구현이 간단하고 다른 SMoE 프레임워크와 결합하기 쉬우며, 다양한 작업에서 그 효과가 입증되었습니다.
https://huggingface.co/papers/2404.15045

-

🦸‍♂️ 오늘의 SW 스피드웨건
1. Node.js 22 출시
Node.js 22 버전이 출시되었습니다. 이 버전에서는 ES 모듈을 require()로 불러오기, WebSocket 클라이언트 도입, V8 자바스크립트 엔진 업데이트 등의 새로운 기능이 포함되어 있습니다. Node.js 22는 10월에 장기 지원(LTS)에 들어갈 예정이며, 그 전까지는 현재 버전으로 유지됩니다. 이번 릴리스를 통해 여러분의 애플리케이션에 대한 영향을 평가하고 새 기능을 탐험할 것을 권장합니다. 더 자세한 내용은 Node.js 공식 블로그에서 확인할 수 있으며, 새 버전을 다운로드하려면 Node.js 웹사이트를 방문하시면 됩니다.
https://nodejs.org/en/blog/announcements/v22-release-announce

2. Ruby는 생각보다 빠를 수 있습니다.
프로젝트에서는 Ruby 파일 내에 Crystal 메서드를 직접 작성하고 실행할 수 있습니다. 'crystalruby'와 'benchmark'를 사용하여 Ruby와 Crystal로 피보나치 수를 계산하는 벤치마크를 비교하였습니다. Crystal 버전이 Ruby 버전보다 대략 4배 빠른 것으로 나타났지만, Ruby 구현에는 불필요한 작업을 유발하는 세부적 오류가 있었습니다. 이를 개선한 후 Ruby 코드는 Crystal보다 더 빠르게 실행되었으며, Ruby의 내장 JIT 컴파일러 YJIT을 활성화하면 Ruby가 Crystal보다 5배 빠르게 실행됩니다. 이는 Ruby의 성능 개선 가능성을 보여줍니다
https://www.johnhawthorn.com/2024/ruby-might-be-faster-than-you-think/

-

🤖 AI학교 아이펠 온라인 8기 ► https://bit.ly/3T1rC8r
📊 AI학교 아이펠 데이터 사이언티스트 온라인 과정 ► https://bit.ly/3JjDKNu
💻 오름캠프 Django 백엔드 개발 온라인 과정 ► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️  SW/AI 한줄 뉴스

1. 구글, 직원들에게 경고..."생성 AI 때문에 검색 상황 과거 같지 않아"
https://www.aitimes.com/news/articleView.html?idxno=159070

2. 메타, AI 안경에 멀티모달 기능 추가..."외국어 읽고 꽃 이름 알려줘"
https://www.aitimes.com/news/articleView.html?idxno=159060

-

🤵‍♂️ 빠르다 빨라 AI 세상

1. Phi-3-mini: 마이크로소프트의 휴대폰용 고성능 언어 모델
마이크로소프트에서 개발한 phi-3-mini는 3.8억 개의 매개변수를 가진 언어 모델로, 훈련 데이터를 최적화하여 휴대폰에서도 구동할 수 있을 정도로 작은 크기임에도 GPT-3.5와 유사한 성능을 보입니다. 이는 웹 데이터 필터링과 합성 데이터 생성을 통해 고품질의 훈련 데이터를 구축함으로써 가능했습니다. 또한 안전성과 견고성을 개선하기 위해 추가적인 정렬 작업을 거쳤습니다. Phi-3-mini는 학술 벤치마크와 내부 테스트에서 훨씬 큰 모델과 견줄만한 성능을 보여주었습니다.
https://huggingface.co/papers/2404.14219

2. 프롬프트 권한 수준 구분으로 언어 모델의 보안 취약점 해결: 명령 계층(Instruction Hierarchy) 제안
이 논문은 언어 모델의 보안 취약점인 프롬프트 주입, 탈옥, 시스템 프롬프트 추출 등의 공격에 대응하기 위해, 프롬프트의 권한 수준을 구분하는 명령 계층(Instruction Hierarchy)을 제안합니다. 개발자가 제공하는 시스템 메시지, 사용자 입력, 툴 출력 등 서로 다른 권한을 가진 명령이 충돌할 때, 모델이 높은 권한의 명령을 우선시하도록 가르치는 것입니다. 합성 데이터 생성과 컨텍스트 증류를 활용해 훈련 데이터를 구축하고, 이를 통해 모델의 보안과 견고성이 크게 향상되었음을 보여줍니다. 명령 계층은 훈련에 포함되지 않은 공격에 대해서도 일반화 능력을 보였습니다.
https://huggingface.co/papers/2404.13208

🦸‍♂️ 오늘의 SW 스피드웨건

1. Ruby 3.3.1 Release
루비 3.3.1 버전이 출시되었습니다. 이번 업데이트에는 보안 패치가 포함되어 있으며, 정규 표현식 검색 시 발생할 수 있는 임의 메모리 주소 읽기 취약점, RDoc에서 .rdoc_options를 이용한 원격 코드 실행 취약점 등이 수정되었습니다. 자세한 내용은 GitHub 릴리스를 확인해 주세요.
https://www.ruby-lang.org/en/news/2024/04/23/ruby-3-3-1-released/

2. 서버리스 GPU 인스턴스에서 머신 러닝 추론을 위해 Python 실행하기
modal.com에서 GPU 인스턴스를 사용하여 파이썬 코드를 실행하는 방법을 설명하고 있습니다. 계정 생성 후 Python 라이브러리를 설치하고, GPU 't4'를 사용하여 간단한 함수를 원격으로 실행하는 예제 코드를 제공합니다. 이를 통해 사용자는 복잡한 설정 없이 GPU에서 코드를 실행할 수 있습니다.
https://saeedesmaili.com/posts/running-python-on-a-serverless-gpu-instance/

🤖 AI학교 아이펠 온라인 8기 ► https://bit.ly/3T1rC8r
📊 AI학교 아이펠 데이터 사이언티스트 온라인 과정 ► https://bit.ly/3JjDKNu
💻 오름캠프 Django 백엔드 개발 온라인 과정 ► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️  SW/AI 한줄 뉴스
1. 애플, 6월 WWDC서 온디바이스 AI sLM 공개...클라우드는 타사 모델로
https://www.aitimes.com/news/articleView.html?idxno=158987

2. 신입 사원 데이터 입력하면 이직 시점 알려주는 AI 개발
https://www.aitimes.com/news/articleView.html?idxno=159002

3. 사진 찍으면 시가 출력되는 AI 카메라 등장
https://www.aitimes.com/news/articleView.html?idxno=158997

-

🤵‍♂️ 빠르다 빨라 AI 세상
1. 독일어 데이터 보호 교육/시험으로 평가한 Llama 3 Instruct 모델의 종합적 성능
이 글은 Hugging Face 블로그에 게시된 Llama 3 Instruct 모델의 성능 평가와 비교에 대한 내용입니다. 글쓴이는 Llama 3의 70B, 8B 모델을 다양한 포맷(HF, GGUF, EXL2)과 양자화 수준에서 총 20개의 버전으로 테스트했습니다 테스트 방법으로는 독일어로 된 4개의 데이터 보호 교육/시험을 모델에게 제공하고, 모델이 이를 바탕으로 18개의 객관식 문제를 얼마나 잘 맞추는지 평가했습니다. 이는 모델의 번역 능력, 언어 간 이해력, 지시 이해 및 수행 능력 등을 종합적으로 평가할 수 있는 방법입니다. 평가에는 SillyTavern 프론트엔드, koboldcpp와 oobabooga의 text-generation-webui 백엔드를 사용했으며, 공정한 비교를 위해 결정론적 생성 설정을 적용했다고 합니다. 가장 좋은 방식은 EXL2를 사용하는 방식이 가장 효과적으로 나왔네요!
https://huggingface.co/blog/wolfram/llm-comparison-test-llama-3

2. LLaMA 3를 활용한 RAG 챗봇 시스템 구현
Hugging Face 블로그에 LLaMA 3를 활용한 RAG 챗봇시스템을 만드는 실습블로그가 올라왔습니다. 이번 데모의 특징은 Langchain에 종속되지 않고 RAG를 구현했다는 점입니다! 그리고 셀마다 들어가 있어 실제 프로젝트를 만든닥 하면 누구나 쉽고 편하게 만들 수 있으며 Hugging Face Hub나 Hugging Face transformers를 잘 활용하고 있어 해당 블로그를 한번쯤 보는걸 추천합니다!
https://huggingface.co/blog/not-lain/rag-chatbot-using-llama3

-

🦸‍♂️ 오늘의 SW 스피드웨건
1. React Native 0.74 릴리즈
React Native 0.74 버전이 출시되었습니다. 이번 업데이트에서는 새로운 레이아웃 엔진인 Yoga 3.0, 새로운 아키텍처 기본 옵션인 Bridgeless 모드, 배치된 onLayout 업데이트, 그리고 새 프로젝트의 기본 패키지 관리자로 Yarn 3을 도입했습니다. 또한, 안드로이드 최소 지원 버전이 6.0으로 상향 조정되었고, 사용되지 않는 API들이 제거되었습니다.
https://reactnative.dev/blog/2024/04/22/release-0.74

2. 라라벨 테스트에서 예외 처리하기
Laravel 11.4에서는 예외를 보다 쉽게 처리할 수 있도록 Exceptions 파사드를 도입했습니다. 이를 통해 개발자는 예외가 발생했을 때 이를 자동으로 감지하고 검증할 수 있게 되어, 기존에 복잡한 예외 처리 코드를 간단히 줄일 수 있습니다. 이는 테스트 코드의 가독성과 유지 관리를 향상시킵니다.
https://laravel-news.com/asserting-exceptions-laravel

-

🤖 AI학교 아이펠 온라인 8기 ► https://bit.ly/3T1rC8r
📊 AI학교 아이펠 데이터 사이언티스트 온라인 과정 ► https://bit.ly/3JjDKNu
💻 오름캠프 Django 백엔드 개발 온라인 과정 ► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️ SW/AI 한줄 뉴스

1. 타임 '가장 영향력 있는 100인'에 나델라·젠슨 황 등 AI 분야 4명 선정
https://www.aitimes.com/news/articleView.html?idxno=158907

2. AI 챗봇 '괴담' 등장...페이스북에 나타나 자신을 '학부모'라고 밝혀
https://www.aitimes.com/news/articleView.html?idxno=158920

🤵 빠르다 빨라 AI 세상

1. Llama 3: 메타의 언어 이해 및 복잡한 작업 처리를 위한 새로운 오픈소스 다기능 대형 언어 모델
Meta Llama 3는 메타의 최신 대형 언어 모델로, 8B와 70B의 사전 훈련된 버전을 제공하여 다양한 애플리케이션을 지원합니다. 이 모델은 언어의 뉘앙스, 문맥 이해 및 복잡한 작업 처리에 뛰어난 성능을 보여줍니다. 또한, 더 큰 데이터셋과 코드를 학습시키면서 개선된 후처리 과정을 통해 응답의 정확도와 다양성을 향상시켰습니다. 사용자는 메타 AI를 통해 Llama 3의 성능을 체험할 수 있으며, 책임 있는 사용을 위한 가이드도 제공됩니다.
https://llama.meta.com/llama3/

2. TR-DPO: 정렬 문제 해결을 위한 선호도 최적화 기법과 그 성능 향상
정렬 문제를 개선하기 위한 연구에서는 인간 피드백을 이용한 강화 학습(RLHF)을 넘어서는 새로운 접근 방식이 제안되었습니다. 직접 선호도 최적화(DPO)와 이를 개선한 TR-DPO(Trust Region DPO) 방법을 도입하여, 정책의 업데이트를 간소화함으로써 모델 성능을 크게 향상시켰습니다. TR-DPO는 자동 평가에서 DPO 대비 최대 19% 더 높은 성능을 보였으며, 이를 통해 모델의 일관성, 정확성, 세부 사항, 유용성 및 무해성이 개선됩니다.
https://huggingface.co/papers/2404.09656

🦸‍♂️ 오늘의 SW 스피드웨건

1. PostgreSQL: 웹 브라우저에 psql의 \d 가져오기
Neon의 웹 기반 SQL 편집기에서 psql 명령어를 사용하려고 했으나 작동하지 않았습니다. 이는 psql의 명령어가 서버가 아닌 클라이언트에서 처리되기 때문입니다. Neon은 이 문제를 해결하기 위해 C 코드를 JavaScript로 변환하여 웹에서도 psql 명령어를 사용할 수 있도록 개선했습니다.
https://neon.tech/blog/bringing-psqls-d-to-your-web-browser

2. 웹에서 Flutter의 접근성
Flutter 웹 애플리케이션은 기본적으로 접근성이 비활성화되어 있지만, 개발자는 접근성 모드를 활성화하여 스크린 리더와 같은 보조 기술이 사용자 인터페이스를 이해할 수 있도록 할 수 있습니다. 이는 <flt-semantics-placeholder> 버튼을 통해 사용자가 직접 활성화할 수 있으며, 활성화하면 HTML 구조가 변경되어 접근성 트리가 풍부한 정보를 제공합니다.
https://medium.com/flutter/accessibility-in-flutter-on-the-web-51bfc558b7d3

-

🤖 AI학교 아이펠 온라인 8기 ► https://bit.ly/3T1rC8r

📊 AI학교 아이펠 데이터 사이언티스트 온라인 과정 ► https://bit.ly/3JjDKNu

💻 오름캠프 Django 백엔드 개발 온라인 과정 ► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️ SW/AI 한줄 뉴스

1. 메타, 신형 AI '라마3' 공개… "구글 제미나이 프로 1.0 제쳤다"
https://n.news.naver.com/mnews/article/011/0004329935

2. 멀어지는 韓 AI 주도권…미·중 갈등 속 日서 돈 보따리 푸는 빅테크
https://n.news.naver.com/mnews/article/092/0002328511

🤵 빠르다 빨라 AI 세상

1. Mirasol3B : 시간 정렬 모달리티와 컨텍스트 모달리티의 별도 자기회귀 모델링
Mirasol3B는 비디오, 오디오, 텍스트와 같은 이종 모달리티를 결합하기 위해 시간 정렬된 모달리티와 컨텍스트 모달리티에 대해 별도의 자기회귀 모델링을 수행합니다. 오디오와 비디오를 위해 시간에 따라 자기회귀적으로 처리되는 Combiner 메커니즘을 도입하여, 컴팩트하면서도 표현력 있는 표현을 생성함으로써 모델 파라미터 증가 없이 512 프레임 입력 비디오까지 확장할 수 있습니다. Mirasol3B는 여러 멀티모달 벤치마크에서 최고 성능을 달성하였으며, Combiner를 통해 미디어 입력의 높은 계산 요구사항을 효과적으로 해결하고 시간에 따른 종속성을 모델링합니다.
https://arxiv.org/abs/2311.05698

2. Latent diffusion 기반 생성 모델: 4분 45초 길이의 장문형 음악 생성으로 새로운 지평을 열다
본 논문에서는 최대 4분 45초 길이의 장문형 음악을 생성할 수 있는 잠재 확산 기반 생성 모델을 제안합니다. 이 모델은 21.5 Hz의 낮은 잠재 속도로 다운샘플링된 연속적인 잠재 표현에서 작동하는 diffusion-transformer로 구성되어 있습니다. 이 모델은 오디오 품질과 프롬프트 정렬 측면에서 최고 수준의 성능을 얻었으며, 주관적 테스트 결과 일관된 구조를 가진 전체 길이의 음악을 생성할 수 있음을 보여줍니다. 본 연구는 장시간 컨텍스트에 대한 학습을 통해 전체 음악 트랙을 생성할 수 있음을 시사합니다.
https://huggingface.co/papers/2404.10301

-

🦸‍♂️ 오늘의 SW 스피드웨건

1. Vercel은 모든 엣지 렌더링을 Node.js로 되돌렸습니다.
vercel에서 모든 엣지 렌더링을 Node.js로 되돌렸습니다. 엣지 컴퓨트는 기대만큼 효과적이지 않았고, 특정 워크로드에는 비용이 저렴할 수 있지만 모든 경우에 그런 것은 아니었습니다. 이제 vercel은 Node.js를 사용하여 SSR과 스트리밍을 결합한 새로운 방식을 실험하고 있습니다.
https://twitter.com/leeerob/status/1780705942734331983

2. Spring Boot 3 및 Spring Security 6을 사용한 JWT 예제
이 블로그에서는 Spring Boot 3, Spring Security 6, 그리고 최신 버전의 JWT를 사용하는 REST API 기반 스프링 부트 애플리케이션을 만드는 방법을 소개합니다. 애플리케이션은 로그인 엔드포인트를 포함하며, 사용자 인증 후 JWT 기반 토큰을 생성합니다. 사용자 정보는 MYSQL 데이터베이스와 Spring JPA를 통해 관리됩니다.
https://www.devglan.com/spring-security/spring-boot-security-jwt-example#google_vignette

-

🤖 AI학교 아이펠 온라인 8기 ► https://bit.ly/3T1rC8r

📊 AI학교 아이펠 데이터 사이언티스트 온라인 과정 ► https://bit.ly/3JjDKNu

💻 오름캠프 Django 백엔드 개발 온라인 과정 ► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️ SW/AI 한줄 뉴스

1. 생성형 인공지능(AI)을 공격해 오류와 편견을 잡아내는 국내 첫 대회 성료

https://n.news.naver.com/mnews/article/018/0005716603

2. 최초의 AI 생성 로맨틱 코미디, 올여름 방영 예정

https://www.aitimes.com/news/articleView.html?idxno=158808

-

🤵 빠르다 빨라 AI 세상

1. SWorld: 다양한 운영 체제를 지원하는 멀티모달 에이전트 환경과 그 성능 분석

이 논문은 OSWorld라는 새로운 멀티모달 에이전트 환경을 소개하며, 이 환경은 다양한 운영 체제에서 작업 설정, 실행 기반 평가, 대화형 학습을 지원합니다. OSWorld는 우분투, 윈도우, 맥OS 등에서 사용 가능하며, 실제 컴퓨터 사용을 반영한 복잡한 컴퓨터 작업을 수행하기 위해 설계된 최초의 확장 가능한 플랫폼입니다. 이 환경은 369개의 다양한 컴퓨터 작업을 포함하고 있으며, 이러한 작업은 실제 웹 및 데스크톱 애플리케이션, OS 파일 I/O, 여러 애플리케이션에 걸친 워크플로우를 아우르는 종합적인 벤치마크를 제공합니다. OSWorld에서 수행된 평가는 컴퓨터 도우미로서의 대규모 언어 모델(LLM)/비주얼 언어 모델(VLM) 기반 에이전트들의 성능을 폭넓게 분석하였으며, 이는 대부분의 고급 모델이 실제 컴퓨터 작업에서 상당한 어려움을 겪는다는 것을 보여주었습니다. 인간이 72.36% 이상의 작업을 수행할 수 있는 반면, 최고의 모델은 단 12.24%의 작업만 성공적으로 수행하였습니다. 이 결과를 통해 OSWorld는 멀티모달 제너럴리스트 에이전트 개발을 위한 심층적인 분석과 향상된 트레이닝 방법을 모색하는 데 귀중한 인사이트를 제공합니다.

https://huggingface.co/papers/2404.0797

2. 검색 증강 생성(RAG)을 통한 GenAI 시스템의 환각 감소 및 성능 향상

생성 AI(GenAI)가 환각에 빠지기 쉬운 문제를 해결하기 위해, 검색 증강 생성(RAG) 방법을 적용한 시스템이 개발되었습니다. 이 시스템은 대규모 언어 모델(LLM)을 사용하여 자연어 요구사항에 기반한 워크플로를 생성하는 엔터프라이즈 애플리케이션에서 환각을 크게 줄이고, 출력의 품질을 개선하는 데 성공했습니다. RAG의 도입은 LLM의 일반화 능력을 도메인 외부 환경에서도 향상시키는 역할을 했습니다. 더불어, 잘 훈련된 소형 리트리버 인코더를 사용함으로써 LLM의 크기를 줄이는 동시에 시스템의 배포가 리소스 집약적이지 않도록 만들었습니다. 이는 GenAI 시스템의 사용자 채택에 있어 중요한 진전을 나타내며, 실용적인 응용 프로그램에서의 신뢰성과 효율성을 증가시킵니다.

https://arxiv.org/abs/2404.0818

-

🦸‍♂️ 오늘의 SW 스피드웨건

1. LLM 기반 django 어드민 필드

그로브 콜라보레이티브에서는 장고 관리자 인터페이스에 ChatGPT를 통합하여 제품 상세 페이지의 내용을 보다 효율적으로 작성합니다. 이 시스템은 각 텍스트 필드에 맞춤 데이터를 제공하고, 관리자가 프롬프트를 수정할 수 있도록 하여 콘텐츠 생성을 자동화합니다. 또한, 관리자는 생성된 텍스트를 수정하거나 검토할 수 있습니다.

https://blog.untrod.com/2024/04/llm-chatgpt-powered-django-admin-fields.html

2. React 서버 컴포넌트의 CSS

Next 13.4 버전의 React Server Components(RSC)를 통해 서버 전용 코드 작성이 가능해지면서, 기존 CSS-in-JS 라이브러리들과의 호환성 문제가 생겼습니다. 이 글에서는 RSC의 이해와 호환성 문제 해결 방안에 대해 설명하고 있습니다.

https://www.joshwcomeau.com/react/css-in-rsc/

-

🤖 AI학교 아이펠 온라인 8기 ► https://bit.ly/3T1rC8r

📊 AI학교 아이펠 데이터 사이언티스트 온라인 과정 ► https://bit.ly/3JjDKNu

💻 오름캠프 Django 백엔드 개발 온라인 과정 ► https://bit.ly/3UdtWej

모두의연구소가 전하는 “모두를 위한 SW/AI 뉴스”

모두의연구소는 지식을 나누며 함께 성장하는 국내 최대 SW/AI 커뮤니티입니다.

🗞️ SW/AI 한줄 뉴스

1. 악용되는 AI... 무단 사용 금지 촉구한 빌리 아일리시·케이티 페리
https://www.aitimes.com/news/articleView.html?idxno=158487

2. 층간소음의 새로운 해결법..? 시끄러운 이웃집 스피커 끄는 AI의 등장
https://www.aitimes.com/news/articleView.html?idxno=158496

🤵‍♂️ 빠르다 빨라 AI 세상

1. Jamba: Transformer와 Mamba의 혁신적 결합

본 논문에서는 Transformer와 Mamba 계층을 결합한 새로운 대규모 언어 모델 아키텍처인 Jamba를 소개합니다. Jamba는 Transformer와 Mamba 계층을 교차 배치하고 일부 계층에 Mixture-of-Experts(MoE)를 추가하여 모델 용량을 늘리면서도 계산 요구량을 관리할 수 있도록 설계되었습니다. 이러한 유연한 아키텍처를 통해 리소스와 목적에 맞는 구성이 가능해졌습니다. 구현된 Jamba 모델은 단일 80GB GPU에 탑재될 수 있으면서도 높은 처리량과 작은 메모리 사용량을 보이며, 표준 언어 모델 벤치마크와 장문맥 평가에서 최고 수준의 성능을 달성했습니다. 특히 최대 256K 토큰의 문맥 길이에서도 강력한 결과를 보여주었습니다. 본 연구는 Transformer와 Mamba 계층의 결합 방식, 전문가 혼합 방식 등 다양한 아키텍처 설계 선택이 대규모 모델링에 중요함을 보여줍니다.
https://huggingface.co/papers/2403.19887

2. AURORA-M: 안전 지침으로 파인튜닝된 최초의 오픈소스 다국어 모델

이 논문은 영어, 핀란드어, 힌디어, 일본어, 베트남어, 코드로 구성된 대규모 다국어 오픈소스 언어 모델인 AURORA-M을 소개합니다. AURORA-M은 StarCoderPlus로부터 4,350억 개의 추가 토큰을 통해 지속적으로 사전 학습되었으며, 총 학습 토큰 수는 2조 개를 넘어섰습니다. 이 모델은 사람이 검토한 안전 지침으로 파인튜닝된 최초의 오픈소스 다국어 모델로서, Biden-Harris 행정부의 AI 개발 및 사용에 관한 행정명령의 우려 사항뿐만 아니라 일반적인 red-teaming 고려 사항에 맞게 개발되었습니다. AURORA-M은 다양한 작업과 언어에 대해 엄격하게 평가되었으며, 파국적 망각에 대한 견고성을 보여주었고, 특히 안전성 평가에서 다국어 환경에서 기존 대안들을 능가하는 성능을 보여주었습니다.
https://huggingface.co/papers/2404.00399

AI부트캠프엔 없다! 오직 AI학교 아이펠에만 있다!

모두의연구소에서 만든 AI학교 아이펠 상세 페이지에서 지금 확인해보세요!

🔥🔥🔥전액무료 입학생 모집 중

https://bit.ly/3T1rC8r