'관계를 읽고 의미를 풍부하게'라는 표현이 사람이 문장 읽는 방식이랑 비슷하게 느껴졌어요. 의료 기록 분석에 이런 기술이 쓰인다고 하던데, 이게 그쪽이랑 연결되는건지 궁금해요
어텐션 스코어가 뭔지는 이해했는데 이걸 실제 코드로 다루는 부분은 따라가기가 좀 벅찼어요. 레슨 9까지 오긴 했는데 점점 자신감이 떨어지는 기분이 드네요 ㅠㅠ
어텐션 스코어 해석 가이드 있어서 다행이었는데, 숫자만 뱉고 끝이었으면 그냥 블랙박스로 남았을 것 같더라고요. 멀티헤드에서는 각 헤드가 다른 패턴을 잡는다고 하던데 시각화하면 어떻게나오나요?
BERT 면접 질문 실제로 나온다는 거 경험했어요. 준비 잘 됐네요
BERT-GPT 차이를 면접에서 묻는 거 맞아요. 실무에서는 여기에 파인튜닝 전략이나 추론 비용까지 물어보는 경우도 많더라고요
토크나이저가 문장을 쪼개는 방식을 시각화로 보여주니까 직관적이네요. 혹시 한국어 문장은 영어랑 토큰화 방식이 많이다른가요? 나중에 한국어 데이터로 작업할 일이 있을 것 같아서요
훈련 진행 바랑 손실 값을 같이 보면서 해석하는 방법이 있어서 도움됐는데요. 실습 환경에서는 잘 나오는데 실제 새 데이터에 적용하면 결과가 많이 달라지나요?