데이터 과학은 통계 분석에서 머신러닝에 이르는 각종 접근법을 사용하여 정형 및 비정형 데이터에서 통찰력을 얻는 방법을 의미한다. 대부분의 조직에서는 매출 개선, 비용 절감, 비즈니스 민첩성, 고객 경험 개선, 신제품 개발 등의 형태로 데이터를 가치로 변환하기 위해 사용된다. 즉 데이터 과학은 조직이 수집한 수많은 데이터에 목적과 가치를 부여한다.
데이터 과학 vs. 데이터 애널리틱스
밀접한 관계이기는 하지만 같은 용어는 아니다. 데이터 애널리틱스는 조직의 데이터가 어떤 모습인지 이해하는 데 사용되는 데이터 과학의 구성 요소이다. 데이터 과학은 애널리틱스의 산출물을 이용하여 문제를 해결한다.
데이터 과학자들은 데이터로 무언가를 조사하는 것은 단순히 분석이라고 말하곤 한다. 데이터 과학은 문제를 설명하고 해결하기 위해 분석을 또 다른 단계로 나아가게 한다. 데이터 애널리틱스와 데이터 과학 간의 차이는 또한 시간 척도(timescale)에서도 나타난다. 데이터 애널리틱스는 현재의 현실 상태를 기술하는 반면, 데이터 과학은 미래를 예측 또는 이해하기 위해 데이터를 사용한다.
장점
데이터 과학의 비즈니스 가치는 각 조직과 조직의 필요에 따라 다르다. 가령 데이터 과학은 하드웨어 장애를 예측하도록 도울 수 있어 다운타임을 방지할 수 있게 해준다. 매장 진열대에 무엇을 놓을 것인지, 혹은 제품의 특성에 기초하여 그것이 얼마나 인기가 있을 것인지를 예측하는 데 도움이 될 수도 있다.
데이터 과학의 비즈니스 가치에 대한 자세한 통찰력에 대해서는 ‘데이터 애널리틱스의 예상치 못한 이점’(영문)과 ‘데이터 애널리틱스이라는 암흑 과학 설명’(영문)을 참조한다.
일자리
데이터 과학 학위 프로그램의 수는 빠르게 증가하고 있지만, 조직이 데이터 과학자를 구할 때 반드시 학위를 따지는 것은 아니다. 통계 등 유관 학위 소지자라면 실제 결과를 보고 있는지 여부를 알고 있는지, 결과를 이해할 수 있는 도메인 지식이 있는지, 비즈니스 사용자에게 결과를 전달할 수 있는 커뮤니케이션 기술이 있는지 증명할 수 있는 경우 인기가 있다.
많은 조직들이 특히 물리학, 수학, 컴퓨터 과학, 경제 또는 심지어 사회과학 박사학위를 가진 후보자들을 찾고 있다.
최고의 데이터 과학자 혹은 데이터 과학 그룹의 리더 중 일부는 전통적이지 않은 배경을 가지고 있으며, 심지어 공식적인 컴퓨터 교육을 거의 받지 않은 사람들도 있다. 많은 경우에, 핵심 능력은 새로운 시각에서 어떤 것을 바라보고 그것을 이해할 수 있는 것이다.
데이터 과학자 기술에 대한 더 많은 정보는 ‘데이터 과학자란 무엇인가? 핵심 데이터 애널리틱스 역할과 수익성이 높은 경력’(영문) 및 ‘엘리트 데이터 과학자의 필수 기술과 특성’(영문)을 살펴본다.
급여
페이스케일의 데이터에 따르면, 데이터 과학과 관련된 인기있는 직책와 각 직위의 평균 급여는 다음과 같다.
– 애널리틱스 매니저 : 7만 1,000~ 13만 1,000달러
– 보조 데이터 과학자 : 6만 1,000~10만 1,000달러
– 비즈니스 지능 분석가 : 5만 2,000~ 9만 7,000달러
– 데이터 분석가 : 4만 5,000~8만 7,000달러
– 데이터 아키텍트 : 7만 9,000~15만 9,000달러
– 데이터 엔지니어 : 6만 6,000~13만 2,000달러
– 데이터 과학자 : 6만~15만 9,000달러
– IT 데이터 과학자 : 6만~15만 9,000달러
– 데이터 과학자 책임자(Lead data scientist) : 9만 8,000~17만 8,000달러
– 연구 분석가 : 4만 3,000~8만 2,000달러
– 연구 과학자 : 5만 2,000~12만 3,000달러
– 선임 데이터 과학자(Senior data scientist) : 9만 6,000~16만 2,000달러
– 통계학자 : 5만 5,000~11만 7,000달러
학위
포춘지에 따르면, 데이터 과학의 최고 대학원 학위과정은 다음과 같다.
– 일리노이 대학(어바나-샴페인 캠퍼스)
– 캘리포니아 대학(버클리 캠퍼스)
– 텍사스 공과대학
– 베이 패스(Bay Path) 대학교
– 우스터 폴리테크닉 대학(Worcester Polytechnic Institute)
– 메릴랜드 로욜라 대학교(Loyola University Maryland)
– 미주리 대학(컬럼비아 캠퍼스)
– 뉴저지 공과대학(New Jersey Institute of Technology)
– 뉴욕시립대 전문학교(CUNY School of Professional Studies)
– 시라큐스 대학교
교육 및 부트캠프
때 많은 조직에서 내부 데이터 과학 인재를 육성하기 위한 프로그램을 구축하고 있다.
부트캠프는 직원들이 데이터 과학 역할을 맡을 수 있도록 그들을 교육하는 또 다른 빠르게 성장하는 길이다. 데이터 과학 부트 캠프에 대한 보다 자세한 내용은 ‘경력 향상을 위한 15가지 최고의 데이터 과학 부트 캠프’(영문)를 참조한다.
자격증
조직에는 데이터 분석에 대한 기법의 전문 지식을 갖춘 데이터 과학자 및 분석가가 필요하다. 또한 요구사항을 시스템으로 변환하는 빅데이터 아키텍트, 데이터 파이프라인을 구축하고 유지 관리하는 데이터 엔지니어, 하둡 클러스터 및 기타 기술에 대해 잘 알고 있는 개발자, 모든 것을 하나로 묶는 시스템 관리자 및 매니저도 필요하다. 자격증은 지원자들이 그들이 올바른 기술을 가지고 있다는 것을 보여주는 한 가지 방법이다.
정평난 빅데이터 및 데이터 애널리틱스 자격증으로는 다음과 같은 것들이 있다.
– 공인 애널리틱스 전문가(Certified Analytics Professional, CAP)
– 클라우데라 데이터 플랫폼 제너럴리스트 자격증(Cloudera Data Platform Generalist Certification)
– 미국 데이터 과학 협회(Data Science Council of America, DASCA) 고급 데이터 과학자(Senior Data Scientist, SDS)
– DASCA 핵심 데이터 과학자(Principal Data Scientist, PDS)
– IBM 데이터 과학 전문가 자격증(Data Science Professional Certificate)
– 마이크로소프트 인증(Microsoft Certified) : 애저 보조 데이터 과학자(Azure Data Scientist Associate)
– 공개 인증 데이터 과학자(Open Certified Data Scientist, Open CDS)
– SAS 인증 데이터 과학자(Certified Data Scientist)
빅데이터 및 데이터 애널리틱스 자격증에 대한 보다 많은 정보는 ‘최고의 11개 빅데이터 및 데이터 애널리틱스 자격증’(영문) 및 ‘수익을 얻을 수 있는 12개 데이터 과학 자격증’(영문)을 참조한다.
팀
데이터 과학은 일반적으로 팀으로 하는 학문이다. 데이터 과학자는 대부분의 데이터 과학 팀의 핵심이지만, 데이터에서 분석으로 다시 생산 가치로 이동하려면 다양한 기술과 역할이 필요하다.
예를 들어, 데이터 분석가는 팀에 데이터를 제시하기 전에 데이터를 조사하고 데이터 모델을 유지하기 위해 합류해야 한다. 데이터 엔지니어는 데이터 세트를 풍부하게 만들고 데이터를 회사의 나머지 사람들이 사용할 수 있도록 데이터 파이프라인을 구축해야 한다.
데이터 과학 팀 구축에 대한 더 많은 통찰력은 ‘효과적인 애널리틱스 팀을 구성하는 방법’(영문) 및 ‘성공적인 데이터 애널리틱스 팀의 비밀’(영문)을 참조한다.
목표 및 성과물
데이터 과학의 목표는 데이터에서 비즈니스 중심의 통찰력을 추출하는 수단을 구축하는 것이다. 이를 위해서는 비즈니스에서 가치와 정보가 어떻게 흘러가는지에 대한 이해와 이 이해를 활용하여 비즈니스 기회를 식별할 수 있는 능력이 필요하다.
단발성 프로젝트와 관련될 수도 있지만, 일반적으로 더 많은 데이터 과학 팀이 유지관리 가능한 툴과 솔루션을 제공하는 데이터 파이프라인으로 전환될 수 있는 주요 데이터 자산을 식별하려고 한다. 은행이 사용하는 신용카드 사기 모니터링 솔루션이나 풍력 발전소의 풍력 터빈 배치를 최적화하는 데 사용되는 툴이 그러한 예다.
점진적으로는 팀의 최신 정보를 전달하는 발표도 중요한 성과물이다.
프로세스와 방법론
생산 엔지니어링 팀은 예정된 일정에 따라 스프린트 사이클로 일하곤 한다. 반면 데이터 과학 이러한 사이클로 작업을 수행하기가 어려운 경우가 많다. 데이터를 수집하고 정리해야 한다.
예외가 없는 것은 아니지만 데이터 과학은 과학적 방법을 따라야 한다. 진짜 과학은 시간이 걸린다. 스스로 자신의 가설을 확인하는데 약간의 시간을 보내고, 그리고 나서 많은 시간을 자신을 반증하려고 노력한다.
비즈니스에서는 답변에 걸리는 시간이 중요하다. 결과적으로, 데이터 과학은 최고의 답보다는 ‘충분히 좋은’ 답으로 가는 것을 의미하는 경우가 많을 수 있다. 그러나 결과가 확증 편향 또는 과적합에 사로잡힐 수 있다는 점은 위험하다.
툴
데이터 과학 팀은 SQL, 파이선, R, 자바, 그리고 하이브, 우지, 텐서플로우와 같은 수많은 오픈소스 프로젝트를 비롯한 광범위한 툴을 사용한다. 이러한 툴은 데이터 추출 및 정리 그리고 데이터 주관화에서 통계 방법 또는 머신러닝을 통한 알고리즘 분석에 이르기까지 다양한 데이터 관련 작업에 사용된다. 일반적인 툴은 다음과 같다.
– 새스(SAS) 이 통계 툴은 데이터 마이닝, 통계 분석, 비즈니스 인텔리전스, 임상 시험 분석 및 시계열 분석에 널리 사용된다.
– 태블로(Tableau) : 지금은 세일즈포스의 소유인 태블로는 데이터 시각화 툴이다.
– 텐서플로우(TensorFlow) : 구글이 개발하고 아파치 라이선스 2.0으로 라이선스 된 텐서플로우는 심층 신경망의 훈련과 추론에 사용되는 머신러닝을 위한 소프트웨어 라이브러리이다.
– 데이터로봇(DataRobot) : 이 자동화 머신러닝 플랫폼은 AI 구축, 배치 및 유지보수에 사용된다.
– 빅ML : 빅ML은 데이터세트 및 모델의 단순화, 구축 및 공유에 초점을 둔 머신러닝 플랫폼이다.
– 나임(Knime) : 나임은 오픈소스 데이터 애널리틱스, 리포팅 및 통합 플랫폼이다.
– 아파치 스파크(Apache Spark) : 이 통합 애널리틱스 엔진은 대규모 데이터 처리를 위해 설계되었으며 데이터 정리, 변환, 모델 구축 및 평가를 지원한다.
– 래피드마이너(RapidMiner) : 이 데이터 과학 플랫폼은 데이터 준비, 머신러닝 및 예측 모델 구축을 지원함으로써 팀을 지원하도록 설계되었다.
– 매트플롯라이브러리(Matplotlib) : 이 파이선용 오픈 소스 플로팅 라이브러리는 정적이고 애니메이션화되고 대화형인 시각화를 만드는 툴을 제공한다.
– 엑셀 : 마이크로소프트의 스프레드시트 소프트웨어는 아마도 가장 널리 사용되는 BI 툴일 것이다. 또한 보다 소규모 데이터셋을 가지고 일하는 데이터 과학자에게도 유용하다.
– js : 이 자바스크립트 라이브러리는 웹 브라우저에서 대화형 시각화를 만드는 데 사용된다.
– 지지플롯(ggplot)2 : 이 R용 고급 데이터 시각화 패키지는 데이터 과학자가 분석된 데이터에서 시각화를 만들 수 있게 해준다.
– 주피터(Jupyter) : 파이썬 기반의 이 오픈 소스 툴은 라이브 코드, 시각화 및 프리젠테이션 작성에 사용된다. dl-ciokorea@foundryco.com