Vibe Coding

2021년 2월 16일, 애플의 기계 번역팀이 연합 학습과 관련된 논문을 아카이브(arxiv)에 게재하였다[1]. 해당 논문은 On-device에서 개인을 위한 인공지능을 구현하기 위한 일반화된 시스템 디자인인 연합 평가 및 튜닝(FE&T)을 설계한 내용을 담고 있는데 서술하는 과정을 보면 구글의 연구진들이 이미 발표한 시스템[2]과 FE&T를 비교하는 방식으로 서술이 되어 있다.이번 포스팅에서는 원래 애플에서 발표한 논문의 내용을 다루어보려고 했는데 서술 과정이 구글에서 발표한 연구와 직접 비교한다는 것과, 따로 정리하지 않아도 될 정도로 일반화된 내용을 담고 있기 때문에 이번 시간에는 특정 기업에만 초점을 맞추지 않고 빅테크 기업들은 왜 연합학습을 연구하고 있는지에 대해서 탐구해보고자 한다. 연합학습..

HBM(High Bandwidth Memory)은 D램 여러개를 수직으로 연결해 한 번에 대량의 데이터를 처리하는 초고성능/초고용량 메모리 입니다. GPU 안에도 단기 기억 장치 즉 cache memory 가 있지만, AI 학습을 위한 매개변수를 모두 담기에는 턱없이 부족합니다. 이걸 해결하기 위해 HBM을 캐시 메모리 가까이에 설치하게 됩니다. 엔비디아 AI 가속기 (HT100)가 HBM을 선택하면서 HBM이 AI 개발을 위한 필수품이 됐고, 챗GPT와 생성 AI시대가 꽃피면서 수요는 폭발적으로 늘었습니다. 일반 D램보다 2~3배 비싸고 개당 수익률이 최고 10배나 되는 고부가가치 상품입니다.  HBM은 D램을 수직으로 쌓아 올려 속도를 높이면서도 전력 소비를 줄인 데다. 이렇게 쌓인 D램 내부를 전극..

생성형 AI란 무엇이며 어떻게 작동하나? 생성형 AI는 사용자 프롬프트에 반응하여 독창적인 콘텐츠를 생성하는 인공지능의 일종입니다. 생성형 AI는 일반적으로 텍스트를 이해하고 생성해야 하며, 이를 위한 가장 일반적인 방법 중 하나는 LLM(대규모 언어 모델)이라고 하는 것을 사용하는 것입니다. LLM은 방대한 양의 텍스트 데이터를 분석하여 복잡한 언어 패턴을 식별하고 문맥을 인식하며 단어가 서로 어떻게 연관되어 의미를 전달하는지 학습하여 만들어집니다. 그런 다음 해당 분석을 사용하여 프롬프트의 세부 사항과 문맥을 기반으로 가장 가능성이 높은 다음 단어를 예측하여 프롬프트에 대한 응답 텍스트를 생성합니다. 생성형 AI가 자연어를 사용하여 작동한다는 의미이기도 합니다 생성형 AI를 사용하려면 AI 기술과 사..

https://www.youtube.com/watch?v=SgOqIhvspcs 우리나라 국책기관 중에서는 사상 처음으로 한국은행 연구진이 우리나라 일자리들의 AI 대체 가능성을 분석한 보고서를 어제(16일) 내놨습니다.   이른바 'AI 노출 지수'라는 잣대로 봤을 때 가장 인공지능에 대체될 가능성이 높은 직업을 18가지로 꼽았습니다.일반 의사와 한의사, 철도와 전동차 기관사, 공학 관련 기술자와 연구원 같은 직업들이 꼽혔습니다.AI 노출 지수가 최상위인 이 직업들은 대규모의 데이터를 활용해야 잘할 수 있는 일들입니다. 그러니까 사람으로 말하자면 공부를 많이 했어야 하는 일, 기존의 고학력, 고소득 전문직 일자리들이 주로 해당됩니다. 산업별로는 정보통신업, 전문과학기술, 제조업처럼 생산성이 높은 산업군의..

언어 모델ChatGPT(GPT-3.5, GPT-4): 대화에 최적화된 모델InstructGPT: 단일 턴 지시에 최적화 (계속 이어지지 않고, 한 번의 지시-답변으로 이루어진 대화)파인튜닝(fine-tuning) 모델: 사용자의 데이터로 학습시킬 수 있는 기본 모델임베딩(embedding) 모델: 텍스트를 컴퓨터가 이해할 수 있는 벡터(숫자들이 나열된 데이터)로 변환하는 모델이미지 모델DALL-E 2: 자연어로 이미지와 예술 작품을 만들 수 있는 모델오디오 모델Whisper: 다양한 언어의 텍스트 변환과 영어 번역을 지원하는 자동 음성 인식 시스템API용 모델API를 이용하여 OpenAI의 언어, 이미지, 오디오 모델을 활용할 수 있습니다. OpenAI API 설치// python에서 API를 사용할 때..

프롬프트 - 지시문, 질문, 예시와 같이 인공지능에게 하는 명령을 말함  프롬프트 엔지니어링은 최적의 결과를 얻기 위한 프롬프트를 생성하는 방법에 초점을 맞춘 분야 이다.    1. 프롬프트 템플릿  지시문 - 역할 부여 프롬프팀 -    "당신은 뛰어난 수학자입니다. 100*100/400*56 은 무엇인가요?    "당신은 의사다" "당신은 변호사다"    Awesome ChatGPT Prompts git hub 저장소에서는 역할 부여 프롬프팅을 사용한 다양한 예시를 찾아볼 수 있다. 퓨샷 프롬프팅      - 예시를 준다           질문 예시 : 3, 5          답변 예시: 15           질문 : 6,5           답변:   챗봇 프롬프트   - 사용자의 대화를 기억하..

ChatGPT가 Plugin 을 통해 다른 서비스를 호출하고 그의 응답을 받아 User에게 전달하는 기능을 말한다.  예)Browsing - 인터넷 검색 기능Code interpreter - 코드 를 짜고, 그결과를 사용자에 전달함 제 3자 서비스와 연동이 가능하다. (Third-party plugins)

Microsoft는 코딩 '코파일럿' 개념을 새로운 영역으로 확장하기 위해 많은 노력을 기울여 왔습니다. 그리고 Build 2023 컨퍼런스에서 Microsoft 경영진은 개별 개발자가 자신만의 부조종사를 만들 수 있도록 지원하는 Azure AI Studio의 새로운 기능을 공개했습니다. 이 소식은 엔지니어가 특정 영역에 대해 더 많은 지식을 갖춘 부조종사를 만들 수 있다는 점에서 매우 흥미롭습니다. 아래에서는 2023년 5월 23일 화요일 Microsoft Build 기조연설 의 주요 내용 중 일부를 다루고 이번 발표가 개발자에게 어떤 의미인지 살펴보겠습니다. 우리는 부조종사 스택을 검토하고 자신만의 부조종사를 구축하려는 이유를 고려해 보겠습니다. 코파일럿이란 무엇입니까? 부조종사는 인지 작업을 지원하..

자연어 쿼리를 기반으로 코드를 생성 하는 제품둘 1. 오픈 AI의 챗GPT 2. 깃허브 코파일럿 X AI 코딩의 강점 1. 코드로 문서/주석 생성 "나는 챗GPT로 코드 내용을 문서화하거나 필요한 주석을 자주 단다. 원래 이런 일은 수작어브로 하려면 시간이 너무 많이 걸린다. 하지만 수식만 완성되면 1~2초안에 문서를 작성할 수 있다. 너무 마음에 든다!" 2. 문서/주석으로 코드 생성 AI는 또한 주석이나 문서 작업을 기반으로 코드를 생성할 수 있다. //get file name from our url let fileName = window.loacation.pathname.split("/").pop(); "나라면 아마 다르게 코드를 짰을 것이다. 나는 정규식을 사용한다. 하지만 코파일럿이 제시한 코드..