반도체 박사가 Python 독학 3주째 — 솔직한 현실

반도체 박사가 Python 독학 3주째 — 솔직한 현실

저는 나노광학 박사입니다. 반도체 fab에서 TEM 계측 엔지니어로 일하다 3월 초에 퇴직했고, 지금은 ASML이나 KLA 같은 외국계 반도체 장비사의 AI Application Engineer 포지션을 준비하고 있습니다.

문제는, 저는 AI를 모른다는 겁니다. Python도 3주 전에 처음 열었습니다.

 

왜 갑자기 AI인가

반도체 계측 분야가 바뀌고 있습니다. 올해 초 Photonics Spectra에서 "Metrology Moves to the Frontline of Semiconductor Innovation"이라는 기사가 나왔는데, 계측이 더 이상 보조 역할이 아니라 반도체 혁신의 핵심 축이 되고 있다는 내용이었습니다.

특히 AI와 계측의 결합이 핵심입니다. 제가 매일 다루던 TEM 이미지 분석, 결함 분류, Tool-to-Tool 매칭 — 이 모든 업무에 딥러닝이 들어오고 있어요. 최근 리뷰 논문을 보면 EM 기반 결함 검사에서 DL 기반 알고리즘이 2020년 이후 급부상했고, CNN 기반 웨이퍼 결함 패턴 인식이 99.9% 정확도를 달성했습니다.

즉, "TEM만 잘하는 엔지니어"의 시대는 끝나가고 있고, "TEM + AI를 할 줄 아는 엔지니어"가 필요한 시대가 온 겁니다. 그래서 퇴직 후 첫 번째 목표를 "AI 역량 장착"으로 잡았습니다.

 

3주간의 학습 기록

노션에 매일 기록하고 있어서 숫자가 정확합니다.

Week 1 — Kaggle Python 7레슨 완주 + Pandas 완주 + ML 기초 진입. 목표 초과 달성이었습니다. 솔직히 Python 문법 자체는 어렵지 않았어요. 연구할 때 MATLAB은 썼으니까 프로그래밍 사고방식은 있었습니다. 다만 Pandas의 DataFrame 조작은 처음이라 시간이 걸렸습니다.

Week 2 — ML Feature Engineering 중급까지 진행. Decision Tree, Model Validation 실습. 여기서부터 "아, 이게 내 전공이랑 연결되는구나" 싶었습니다. 반도체 공정 데이터에서 Feature Importance를 뽑으면 어떤 파라미터가 수율에 가장 큰 영향을 미치는지 바로 알 수 있거든요.

Week 3 (지금) — Kaggle Feature Engineering 실습 + LeetCode 매일 1문제를 시작했습니다. 그리고 이번 주 목표 중 하나가 Andrew Ng ML Specialization 등록인데, 이미 3주째 미루고 있습니다.

 

비전공자 독학의 진짜 어려움

코드를 배우는 것 자체는 예상보다 괜찮았습니다. 진짜 어려운 건 다른 데 있었어요.

첫째, "이게 맞는 방향인가"라는 의심입니다. Kaggle 강의를 듣다 보면 "이걸로 정말 ASML에 갈 수 있나?" 싶은 순간이 옵니다. 주변에 비슷한 전환을 한 사람이 없으니까 물어볼 곳도 없고요.

둘째, 계획은 매주 세우는데 실행이 따라가지 않는 것입니다. Week 3 플랜에 LinkedIn 프로필 업데이트를 넣었는데, 이게 벌써 3주째 이월되고 있습니다. Andrew Ng 등록도 마찬가지. 공부는 하는데 실제 "이직 실행" 항목은 계속 밀립니다.

셋째, 전공 지식과 AI를 연결하는 감이 아직 부족합니다. "TEM 이미지에 CNN을 적용한다"는 개념은 알겠는데, 실제로 데이터를 어떻게 전처리하고 모델을 어떻게 설계하는지는 아직 감이 안 옵니다.

 

그래도 보이는 것들

어려운 점만 있는 건 아닙니다. 3주 동안 뚜렷하게 느끼는 장점도 있어요.

도메인 지식이 무기가 된다는 겁니다. 순수 CS 전공자는 반도체 공정을 모릅니다. Channeling이 뭔지, T2T matching이 왜 중요한지, HAR 식각에서 뭐가 어려운지 — 이걸 아는 사람이 AI까지 할 줄 알면 정말 강합니다.

최근에 읽은 Samsung 연구팀 논문이 인상 깊었습니다. 합성 SEM 이미지로 YOLOv8을 학습시켜 실제 결함을 검출하는 연구였는데, mAP 96%를 달성했어요. "데이터가 없으면 만들면 된다"는 발상 자체가 fab 현실을 아는 사람만 할 수 있는 접근이었습니다.

이런 논문을 읽을 때 "아, 나도 이런 걸 할 수 있겠다"는 확신이 조금씩 생깁니다. 물론 아직 YOLOv8을 직접 돌려본 건 아니지만요.

 

현재 이직 준비 현실

솔직하게 공개합니다.

완료한 것: Kaggle Python/Pandas 완주, ML 기초 진입, 반도체 AI 논문 5편 정리, 발명 아이디어(TEM 자동 계측 도구) 기획, 매일 반도체/AI 영어 표현 학습

진행 중인 것: ML Feature Engineering, LeetCode, OPIc 영어 준비

3주째 미루고 있는 것: LinkedIn 프로필 업데이트, NFI/Bruker 지원서 작성, Andrew Ng 등록

보시다시피 "공부"는 하고 있는데 "실행"은 밀리고 있습니다. 이게 커리어 전환의 함정인 것 같아요. 준비가 더 되어야 한다는 생각에 행동을 미루게 됩니다. 완벽주의가 발동하는 거죠.

 

앞으로의 계획

이번 글을 쓰면서 스스로 정리가 됐습니다. 남은 Phase 1(3~4월) 동안 해야 할 것을 세 가지로 좁힙니다.

1. Kaggle Competition 실전 진입 — 이번 주 안에 House Prices 문제에 도전합니다. 강의만 듣는 단계를 넘어서 실제 데이터로 모델을 만들어봐야 합니다.

2. LinkedIn 프로필 이번 주 완료 — 더 이상 미루지 않습니다. AI Application Engineer로 전환하려는 반도체 박사라는 포지셔닝을 명확히 합니다.

3. TEM + AI 포트폴리오 프로젝트 시작 — TEM 이미지 기반 결함 분류 자동화 프로젝트를 시작합니다. 이게 가장 강력한 이직 무기가 될 겁니다.

3주 전에는 Python print("Hello World")를 치고 있었습니다. 지금은 Decision Tree로 모델을 만들고 있습니다. 아직 갈 길이 멀지만, 방향은 맞다고 생각합니다.