인공지능

추천시스템에서 side information을 활용하는 것은 성능 향상에 의미있는 결과를 보여준다. 하지만 해당 정보를 Neural Net에 어떤 방식으로 입력하는지에 따라 성능이 다르다. 트랜스포머에 기반하여 SI를 임베딩 시키는 방법엔 기존 상품의 ID 값에 SI를 Summation하거나, Concatenation하는 방법으로 입력해왔다. 해당 연구는 SI를 기존과 같은 방식으로 입력했을 때 모델의 추천 성능은 비슷하거나, 오히려 떨어지는 결과를 문제점으로 삼았다. 저자는 문제의 원인을 Invasive한 입력방식이라고 언급했고, 위 입력이 self-attention을 수행할 때 Query, Key, Value값에 일괄적으로 입력되어선 안된다고 주장한다. 때문에 SI를 새롭게 self-attention..

인공지능이 실제 실무에서 어떻게 쓰이는지 공부도 할겸, 코엑스에서 열린 스마트테크 코리아 행사에 다녀왔다. 운송, 풀필먼트, 생산, 도소매, 로봇, 자율주행, 헬스케어 등등.. 인공지능이 스며든 산업이 없다시피할 정도로 다양한 도메인을 볼 수 있었다. 원래 행사 성격 자체가 B2B 성향이 강해서 나 같은 학생들은 행사장에 잘 보이지 않았고, 인도 형님들을 비롯한 외국 바이어나 관계자들이 많이 오셨다. 많은 부스를 돌아다녔는데 다들 친절하게 회사와 서비스 소개를 해주셔서 너무 감사했는데, 특히 인상 깊었던 서비스 몇개만 후기로 남겨보려한다. 아, 그 전에 전체적인 그림을 쭉 봤을 때, 현재 인공지능이 활발하게 쓰이는 산업은 확실히 컴퓨터 비전 쪽이 두드러졌다. 아무래도 딥러닝이라고 하는 기술 자체가 다른 ..

ChatGPT를 영어 공부에 활용해보자 영어 공부를 하다가 마주하는 불편함은 네이버에 단어를 검색하면 내가 찾은 단어의 뜻만 보여주는 등 다소 덜 풍부한 데이터를 본다는 것이다 TEPS의 경우 난해한 단어들을 외우게될 때 마구잡이로 단어를 넣기엔 너무 무식한 느낌이고.. 유의어, 반의어, 예문 등과 같이 학습해야하는 필요성을 느꼈다. 간단한 명령이지만 ChatGPT에게 다음과 같은 명령을 입력했다 when i type some word, please show me the data using below format format [my word] : [mean of korean] similar word : [similar word in english] opposite word : [opposite word ..

요즘 ChatGPT의 열기가 뜨겁다 알파고의 등장때까지만해도 몰랐다 '저 녀석은 바둑만 잘하니까'의 마인드로 아직은 인공지능이 라이프 스타일을 바꿀 수 없다는 안도감에 취할 수 있었지만.. 이번엔 확실히 다르다 알파고에 들어간 CNN과 강화학습이 불러온 패러다임은 단지 시작에 불과했고 자연어를 이용한 챗봇, 컴퓨터 비전(CV)까지 삽입된 자율주행, 공정 결함을 예측하는 머신러닝 모델 등 여러 산업 전반에 걸쳐 빠르게 변화되고 있다 이젠 ChatGPT가 또 다른 시작을 예고했다 작동방식은 텍스트 -> 토큰화 -> 인코딩 / 텍스트 정보 이해 -> 디코딩 / 답변 생성이라는 비교적(?) 간단한 구조를 가지고 있지만 학습된 양이 무지하게 크기 때문에 정교한 대답을 얻을 수 있다. ChatGPT는 기사와 연설문..