병산서원은 고려 중기부터 안동 풍산에 있던 교육기관인 풍악서당(豐岳書堂)에서 비롯되었다. 지방 유림의 자제들이 모여 공부하던 곳으로, 고려 말 공민왕 때 홍건적의 난이 일어나 왕의 행차가 풍산을 지날 무렵, 풍악서당의 유생들이 난리 중에서도 학문에 열중하는 것을 보고 왕이 크게 감동하여 많은 서책과 사패지(賜牌地)를 주어 유생들을 더욱 학문에 열중하도록 격려하였다.
200년이 지나면서 서당 가까이에 가호가 많이 들어서고 길이 생기며, 차츰 시끄러워지면서 유림들이 모여 서당을 옮길 곳을 물색하는 중에 서애 류성룡 선생께서 부친상을 당하시고 하회에 와 계실 때 그 일을 선생에게 문의하니, 서애 선생께서 병산이 가장 적당할 것이라고 권하게 되었고 유림들은 선생의 뜻에 따라 1575년(선조 8) 서당을 병산으로 옮기고 ‘병산서원’이라고 고쳐 부르게 되었다.
1614년(광해 6)에 우복 정경세, 창석 이준, 동리 김윤안, 정봉 안담수 등 문인들이 선생의 학문과 덕행을 추모하기 위하여 존덕사를 창건하여 선생의 위판을 봉안 하였다.
선생의 위판은 1620년(광해12) 합향하는 과정에서 여강서원(주향 퇴계 이황)으로 옮겼다가 1629년(인조 7)에 다시 병산에 복향하였다. 당시 서애 선생의 위판을 여강서원과 병산서원에 봉안하는 문제를 두고 “일읍양원병향(一邑兩院竝享)”과 “일읍봉안(一邑奉安)”등 의견이 있었으나 주자의 예에 따라 한 고을 두 서원에 병향해도 무방하다 하여 두 서원에 병향하게 되었다.
1662년(현종 3)에 선생의 셋째아들인 수암 류진(柳袗, 1582-1635)공의 위패를 종향하였다.
병산서원은 지방교육의 일익을 담당하였고 많은 학자를 배출하였으며, 1868(고종 5) 흥선대원군의 서원 철폐령이 내렸을 때에도 훼철되지 않고 존속한 47개 중 하나이다. (書院 27개, 祠 20개)
1978년 3월 31일에 사적 제 260호로 지정되어 있으며 서애 선생의 문집을 비롯하여 각종 문헌 1,000여 종 3,000여 책이 소장되어 있다.