청일전쟁 후 평양지역에 초등학교 졸업생과 교회 수가 증가하자, 교회를 이끌어갈 지도자를 공급할 중등교육이 절실히 필요하였다. 조선선교회는 부산에서 교육 경험이 있는 베어드를 조선 선교회의 교육고문으로 임명하고, 1897년 평양에 파송하여 중등교육반을 시작하도록 하였다. 그러나 아무런 시설도 없고, 준비도 없었으므로 베어드는 우선 1897년 10월 초 그의 사랑방에서 중등교육 반을 시작하였다. 이것이 ‘사랑방 학급’으로 불리는 숭실학당의 출발이었다.

  1년이 지나면서 베어드는 중등교육의 제도화를 위해 1898년 가을 학기에 학생 모집을 공고하였고, 약 60여 명의 지원자 가운데 학력, 건강 상태, 경제상황 등을 고려하여 18명을 선발했다. 교과목은 성서, 지리, 산수, 역사 등을 가르쳤는데, 주요 교과목은 성서였으며, 약 60여권의 중국과 조선의 각종 서적들을 비치한 도서관도 설치하였다. 베어드의 교육정책이 교회 성장과 불가분의 관계에 있었기 때문에, 평양에서의 기독교인 수의 증가와 비례하여 숭실학당의 학생 수 또한 늘어났다. 학생과 학급 수가 증가하자, 베어드는 선교부지원금 700원과 스왈렌 선교사의 기부금 1,800원으로 1901년 4월 11일 신양리 39번지의 학교 부지에 7개의 큰 교실을 둔 첫 교사를 건립하였다.

  교사가 완공된 후, 베어드는 자신의 교육철학을 반영하여 숭실학당의 교육언어를 조선어로 정하고, 부인과 함께 미국의 중등교육 교과서를 조선의 실상에 맞게 번역, 편찬하여 출판하였다. 베어드는 또한 숭실학당 내에 학생자조부를 설치 운영하였는데, 이는 선교부가 모든 교육비를 지출하는 예수교학당 운영의 실패를 거울삼아, 학생의 반 정도는 등록금을 스스로 지불하면서 재학하고, 나머지 반 정도는 학생자조부를 통하여 스스로 노동하여 그 수입으로 등록해 공부하도록 하였다. 이처럼 베어드는 숭실학당의 초기 단계부터 명확한 교육이념과 확고한 방법론으로 중등교육의 확립을 위해 온 힘을 다하였다.