박지훈
2024년 5월 16일 (금) 서울 코엑스에서 열린 AWS Summit Seoul 2024 에 참여했습니다.
보내주셔서 감사합니다 팀장님
강의들은 다양하게 있었습니다. 아무래도 LLM이 대세다 보니 LLM과 빅데이터 처리를 위한 방법에 대한 강의들이 많았습니다.
아래는 들었던 강의 들
기조연설에서 가장 많이 언급 된 것은 LLM 과 관련한 AI 툴 bedrock 과 업무 비서 AI Amazon Q 였습니다.
기조연설이 끝나고 다음에 들었던 강의 입니다.
온프레미스 를 대신해 클라우드를 이용하면 회사의 지속적인 성장을 돕는다는 내용이었습니다.
메인 홀에서 점심 맛있게 먹고
전시 부스 구경 다녔습니다.
AI 자동 운전 시뮬레이션 체험하는 장소입니다. 파라미터를 넣고 실행하면 핸들이 알아서 움직입니다.
가장 인상 깊었던 강의는 인사관리에 AI 챗봇을 사용한 사례였습니다.
회사의 업무를 챗봇에게 물어보면 해당 업무의 담당자를 답해주고
역으로 직원을 검색하면 해당 직원의 업무를 대답해주는 서비스 입니다.
응답속도와 정확성을 높이기 위해 하나의 챗봇이 할 일을 여러 챗봇에 역할을 나눠 분업하게 시스템을 구축했다는 점이 신기했습니다.
AWS Summit 에서 들었던 그 외의 강의에선 AWS 에서 제공하는 서비스를 이용해
구축 할 수 있는 아키텍처를 소개하는 내용이 많았습니다.
아래는 학습된 LLM 모델들을 음성으로 대화하며 교감 점수를 얻는 미니게임 체험장 입니다
둘째 날 은 첫 날에 비해 좀 더 기술적인 강의가 많았습니다.
그중에 가장 인상 깊었던 것은 마지막에 들었던 RAG 기법 이었습니다.
프롬프트 엔지니어링은 일반적인 LLM 에게 적절한 질문을 하는 기법 입니다.
파인 튜닝은 일반적인 LLM 에 추가적인 학습을 시켜서 새로운 버전의 LLM 으로 만드는 것입니다.
FM 훈련하기는 처음부터 목적성을 갖고서 새로운 LLM 을 만드는 것 입니다.
RAG 기법은 새로운 문서를 참조만 하는 기법 입니다.
AWS bedrock을 이용해서 검색하고 싶은 파일을 업로드 하면 바로 인식해서 구체적인 답변을 내놓는게 인상적이었습니다.
주석까지 추가로 붙어서 어디서 참조했는 지도 볼 수 있었습니다.
이전부터 궁금했던 aws summit 참여해서 정말 좋았습니다.
첫 날에 참여자가 엄청 많아서 관심 있던 세션 하나 못들은 건 좀 아쉬웠네요
모든 아키텍처 구축을 aws 안에서 구성 할 수 있게 만들었다는게 놀라웠습니다.
전시 부스에 참여해서 받은 상품들도 좋았습니다.