From beginning to end of my undergraduate, I have eagerly tried to find my identity as an electrical engineer and I get the answer now: I’m an engineer whose feet lie on the real world, however, I also want to be a theorist. I have concentrated on studying signal processing, communication, and control theory through the coursework. I have fascinated in the mathematical elegance and its implications in engineering of the theory of engineering such as linear system theory and information theory.
Though I have diverse research interests, at its heart, my interests concerns about defining and modeling given engineering problems with intuition and solving these using proper theory.
Broadly speaking, I’m interested in various problems emerged from signal processing, communications, control and relevant engineering areas and conquering these with mathematical tools like probability, optimization, and graph theory. Exceptionally, I want to get involved in network information theory, statistical learning and inference, and large scale optimization theory. As Shannon’s theoretical achievement paved the way of digital communications and inspired numerous fields, I think the development of engineering theory makes new paradigm of technologies possible also in the future. This vision motivates me to apply [#School] and pursue the graduate study.
나는 학부 동안 나의 research fit을 찾기 위해 다양한 주제의 인턴을 경험했다. 2학년 가을학기에 수강한 신호 및 시스템을 듣고 Fourier analysis가 너무 신기하고 재미있었던 나는 signal processing의 실제에 대해 공부하고 싶다는 생각이 들었다. 그래서 바로 이어지는 겨울방학부터 수업의 lecturer이셨던 조남익 교수님의 영상처리 연구실에게 부탁을 드려 석사 신입생 세미나에 참여하여 영상처리의 여러 기본적인 기법들에 대해 배웠다. 가장 기본적인 canny edge detection부터 corner detection, support vector machine 등 다양한 기법을 배우고 프로그래밍을 통해 구현을 해보면서 재미도 있었지만, 이것들을 더 깊이 이해하고 더 좋은 알고리즘을 만들기 위해서는 수학적으로 단련될 필요를 크게 느끼게 되었다. 이를 계기로 junior부터 analysis와 linear algebra 등의 과목을 들으며 수학과 복수전공을 시작하였다.
While conducting the graduation project, I could get down to the real research since the first half of this year. Under the instruction of professor Jungwoo Lee, I did a research the topic “Recommender system using matrix completion”. At first glance, matrix completion problem wholly attracted me with its concise setting and elegant intuition (“low rank approximation” or “sparse representation”). Since I wanted to fully understand the underlying principles, I tried to read the groundbreaking paper of Candes and Recht, “Exact matrix completion via convex optimization”, and, however, very soon I realized that I needed to study more advanced theory than that I knew already. I was somewhat disappointed, however, I tried to conquer it.
Through this research I could learn the SVD and some basic knowledge in spectral analysis of matrices and practical optimization algorithms. And also, as Professor Lee suggested me to study “Convex Optimization”, I took this course during this project. All along this course and project, I could grasp the importance of optimization theory, and that convex optimization and semi-definite programming play a crucial role for many engineering problems. And also I was enchanted about the convex relaxation idea which is the one of the key ideas of matrix completion and enables to solve many notorious NP-hard optimization problems easily.
As a result of this research, 나는 collaborative filtering에서 많이 사용되는 matrix factorization과, 이와 비슷한 intuition을 공유하는 spectral analysis에 기반한 알고리즘인 OptSpace를 실제 영화 평점 데이터에 적용하여 RMSE와 computation time을 비교해보았다. Matrix completion의 대표적인 application 중에 가장 대표적인 것이 recommendation system에의 적용이었기 때문에 실제 data에 대해서도 좋은 성질을 내는지 확인하는 것은 중요한 일이다. 이 과정에서 OptSpace algorithm이 매우 빠르지만 model의 rank가 조금만 높아져도 엄청나게 computation load가 큰 것을 발견했는데 그것은 matrix manifold 위에서의 optimize가 굉장히 오래 걸렸기 때문이었다. 이러한 빅 데이터 세팅에서는 다루는 행렬의 크기가 million by million에 달하기 때문에 보다 빠른 approach가 필요하겠다는 사실을 알게 되었다.
이 연구 경험 이후 여름방학부터는 정교민 교수님 연구실에서 large-scale time series analysis를 examine하고 있다. 내가 사용하는 tool은 기본적으로 economy에서 제안된 Granger Causality를 기반으로 한다. 이런 causal analysis tool을 이용하여 world stock market의 large-scale time series data에 적용시켜 information flow를 보여주는 causal network를 찾고, 이를 분석하는 것을 주제로 research를 하고 있다. 이러한 causal analysis는 현재 fMRI signal에 많이 적용되어 왔는데, 최근에는 다양한 dynamical system의 전체적인 구조를 파악하기 위해 적용되고 있다. Finance data의 경우 non-linearity와 non-stationarity 때문에 GC를 적용하는 것이 적절하지 않기 때문에 보다 general한 relation을 revealing해주는 information theoretic measure인 directed information을 이용하여 문제를 풀려고 시도하고 있다. 이를 위해서는 sample data로부터 measure를 estimation하는 문제와 대량의 series를 효율적으로 처리하기 위한 optimization algorithm을 개발해야 하는 문제가 있다. 이 문제들을 통해 theoretic tool이 real world problem에 어떻게 적용될 수 있는지 배우고 있다.
On the top of these research experiences, I have taken several core graduate courses which are necessary tools in research and got all A+’s from these courses in my senior years; Random Signal Theory, Information Theory, Convex Optimization, and Advanced Matrix Computation. Especially two of those, random signal theory and convex optimization, 는 교수님이 A+을 딱 한 명에게만 주거나 클래스에 A+을 주지 않겠다고 한 과목들이었는데 내가 그 한 명이었다. This semester also I’m taking Estimation Theory, Compressed Sensing to equip fundamentals for research. My strong and wide background gained from mathematics and physics will certainly help my graduate research.
Through these successive research experiences and intensive coursework, I realized that I am interested in the application to real world and the mathematical theory at the same time. I really want to fully understand the underlying structure and theory of engineering and want to develop my own theory to solve real world problems.
[#School]의 graduate program에 가면 이러한 방향에서 보다 깊이 이론을 공부하고 싶다. 뿐만 아니라 math, stat, cs의 여러 사람들과 co-work하며 내 이론을 통해 application에 적용하고 싶다. 이론에 대한 깊은 이해는 보다 많은 것을 가능케 해주리라 믿는다.
졸업 후에는 학계에 남거나 연구소에서 productive한 결과를 내는 연구자가 되고 싶다. 대학원에서 쌓은 이론적인 배경을 바탕으로 다양한 분야의 연구자들과 co-work을 하며 impact 있는 연구를 하고 싶다.
[MIT]
위에서 기술한 나의 성격과 관심사를 고려했을 때 MIT는 나에게 최적의 학교이다. 세계 최고의 faculty들로 구성된 science & engineering program, 그리고 colleague들은 나의 공학 이론 연구에 큰 도움을 줄 것이다. 나는 MIT에서 Pablo Parrilo의 연구에 큰 관심이 있다. Matrix completion을 논문을 찾으며 공부하면서 Parrilo의 Semidefinite programming에 관한 연구들을 살펴볼 기회가 있었는데 매우 흥미로웠다. (상술할 필요) 또한 Muriel Medard의 Network coding 연구에도 관심이 있다. 내가 지금 살펴보고 있는 directed information graph에 관한 많은 논문이 이 분의 제자인 Todd Coleman에게서 나와서 보고 있는데 굉장히 재미있게 보고 있다. 나도 Medard와 연구하면 이론적으로 재밌고 좋은 연구를 할 수 있을 것 같다.
[Stanford]
위에서 기술한 나의 성격과 관심사를 고려했을 때 Stanford는 나에게 최적의 학교이다. 강력한 통계와 수학과 프로그램과 ee와의 interdisciplinary한 분위기는 나의 공학 이론 연구에 큰 도움을 줄 것이다. 나는 Stanford에서 Andrea Montanari의 연구에 큰 관심이 있다. Matrix completion을 논문을 읽으며 공부하면서 Montanari의 matrix completion 이외의 다양한 논문을 살펴보았는데 optimization, statistics의 깊은 이해를 바탕으로 한 심도있는 이론적 연구결과와 다양한 application에 관심이 있다. 또 Montanari가 physics 배경을 가진 것도 큰 도움이 될 것이라 생각하는데 왜냐하면 정보의 물리적 의미에도 깊이 관심이 있기 때문이다. (상술할 필요)
뿐만 아니라 정보이론을 연구하는 Tsachy Weissman에게도 깊은 관심이 있다. (상술할 필요) + John Duchi
[UC Berkeley]
위에서 기술한 나의 성격과 관심사를 고려했을 때 Berkeley는 나에게 최적의 학교이다. 강력한 통계와 수학과 프로그램과 eecs와의 interdisciplinary한 분위기는 나의 공학 이론 연구에 큰 도움을 줄 것이다. 나는 Berkeley에서 Martin Wainwright의 연구에 큰 관심이 있다. Matrix completion을 논문을 읽으며 공부하면서 Wainwright의 논문 몇 개를 접하게 되었는데 optimization, statistics의 깊은 이해를 바탕으로 한 심도있는 이론적 연구결과와 다양한 application에 관심이 있다. 같은 맥락에서 Ben Recht와 Bin yu, Kannan Ramchandran에게도 관심이 있다. (교수님들 더 알아볼 필요)
이런 이유들로 [#School]에서 날 뽑아주면 좋겠다. 난 정말 research-oriented 되어 있고 enthusiastic하다. [#School]에서의 graduate study를 통해 좋은 연구를 하기를 기대한다.
학부를 거치면서 나는 내가 전기공학자이지만 응용수학자가 되고 싶다는 것을 깨달았다. During my undergraduate in ECE department, I concentrated on studying signal processing, communication, and control theory. 나는 linear system theory, information theory등의 공학 이론의 mathematical elegance와 implication to engineering 에 매료되었다. 나는 다양한 research interest를 갖고 있지만 그 중심에는 주어진 공학문제를 수학적으로 정의하고 근사하여 모델링하고 적절한 이론을 적용해 문제를 푸는 것에 있다.
나는 signal processing, communication, control 등의 분야에서 발생하는 다양한 문제들을 probability theory, optimization theory, graph theory 등을 툴로 푸는 것에 관심이 있다. 특히 network/quantum? information theory와 statistical learning/inference, large scale (mathematical) optimization theory를 연구하고 싶다. Shannon의 이론이 디지털 통신 분야를 개척한 것처럼 나는 앞으로도 공학 이론의 발전이 공학의 새로운 패러다임을 가능케 할 것이라고 생각한다. 이러한 비전은 내가 당신네 학교에 지원하여 graduate study를 계속 pursue할 수 있게 이끌어준 동력이 되었다.
뭔가 맘에 안 든다. 자신감이 없어 보임.
다음 문단과 매끄럽게 이어지지가 않는 듯.
Research 결과 matrix completion은 ~하다는 것을 확인할 수 있었다.
무엇을 배우고 있는지 조금 더 강세를 주기.
fMRI signal analysis에 Granger Causality가 적용되고 있는지 이종호B 교수님께?
“내가 research candidate으로 생각하고 있는 정보이론도 1등으로 A+을 받았다.”