<LLM> [Google DeepMind] Gemma: Open Models Based on GeminiResearch and Technology (2024.02)

<LLM> [Google DeepMind] Gemma: Open Models Based on GeminiResearch and Technology (2024.02)

관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 ️ usechatgpt init success [Google DeepMind] - Gemini를 만들 때 사용했던 기술들을 바탕으로 학습된 lightweight & state-of-the art open models, Gemma를 공개 - language understanding, reasoning, safety 등 벤치마크에서 뛰어난 퍼포먼스를 보임 - 2B & 7B 모델의 raw version과 instruction fine-tuned version을 공개 (2T & 6T 토큰으로 학습) 출처 : https://storage.googleapis.com/deepmind-media/gemm..

원문링크 : <LLM> [Google DeepMind] Gemma: Open Models Based on GeminiResearch and Technology (2024.02)

 등록된 다른 글

Introduction to Deep Learning

Introduction to Deep Learning

[대회 홍보] 월간 데이콘 이미지 기반 질의 응답 AI 경진대회

[대회 홍보] 월간 데이콘 이미지 기반 질의 응답 AI 경진대회

<RAG, Refinement> [CRAG] Corrective Retrieval Augmented Generation (2024.01)

<RAG, Refinement> [CRAG] Corrective Retrieval Augmented Generation (2024.01)

[밑바닥부터 시작하는 딥러닝] Softmax 함수, 클래스 구현하기 (미분 수식, + with Cross Entropy)

[밑바닥부터 시작하는 딥러닝] Softmax 함수, 클래스 구현하기 (미분 수식, + with Cross Entropy)

<RLHF> Reinforced Self-Training (ReST) for Language Modeling (2023.08)

<RLHF> Reinforced Self-Training (ReST) for Language Modeling (2023.08)

Regularizing your Neural Network

Regularizing your Neural Network

4.6. 연속시간 시스템

4.6. 연속시간 시스템

Hyperparameter Tuning

Hyperparameter Tuning