โรงเรียนสวนกุหลาบวิทยาลัยมีจุดเริ่มต้นภายในเขตพระราชวังสวนกุหลาบ เมื่อสมเด็จฯ กรมพระยาดำรงราชานุภาพกราบบังคมทูลขอพระราชทานพระบรมราชานุญาตให้ใช้พื้นที่พระราชวังดังกล่าวจัดตั้งเป็นสถานศึกษา พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว รัชกาลที่ 5 ทรงพระกรุณาโปรดเกล้าฯ พระราชทานอนุญาต โรงเรียนจึงเริ่มเปิดทำการในนาม “โรงเรียนพระตำหนักสวนกุหลาบ” ตั้งแต่ พ.ศ. 2427 โรงเรียนได้ปรับเปลี่ยนจากโรงเรียนฝึกหัดมหาดเล็กมาเป็น “โรงเรียนมหาดเล็กหลวง” โดยแบ่งการเรียนออกเป็นชั้นต้น ชั้นกลาง และชั้นสูง ต่อมาเมื่อจำนวนนักเรียนเพิ่มมากขึ้นจึงต้องย้ายสถานที่หลายครั้ง

พ.ศ. 2436 ได้ย้ายออกจากพระบรมมหาราชวังไปตั้งอยู่ที่วัดมหาธาตุและวังหน้า (พระราชวังบวรสถานมงคล) และใช้ชื่อว่า “โรงเรียนสวนกุหลาบวังหน้า” ต่อมาเมื่อ พ.ศ. 2448 โรงเรียนได้ย้ายไปอยู่ที่อาคารแม้นนฤมิตร วัดเทพศิรินทราวาส และเป็นที่รู้จักกันในชื่อ “สวนกุหลาบอังกฤษเทพศิรินทร์” จนกระทั่ง พ.ศ. 2453 โรงเรียนได้รวมเข้ากับโรงเรียนราชบูรณะ และได้รับพระราชทานชื่อใหม่ว่า “โรงเรียนสวนกุหลาบวิทยาลัย” ซึ่งนับเป็นจุดเริ่มต้นของการพัฒนาเข้าสู่ยุคสมัยใหม่

ในปีเดียวกันได้เริ่มก่อสร้างอาคารเรียนถาวรแบบสถาปัตยกรรมตะวันตกสไตล์นีโอคลาสสิก ซึ่งต่อมามีชื่อเรียกว่า “ตึกยาว” อาคารเรียนหลังแรกที่สร้างขึ้นโดยเฉพาะเพื่อการเรียนการสอน สะท้อนรสนิยมทางสถาปัตยกรรมปลายคริสต์ศตวรรษที่ 19 ถึงต้นคริสต์ศตวรรษที่ 20 ผู้ลงนามในสัญญาก่อสร้างคือ หลวงราชายาสาธก มรรคนายก วัดราชบุรณราชวรวิหาร เป็นผู้ลงนามในสัญญาจ้าง และผู้รับเหมาคือ นายอึ้งเหลียงหย่ง เมื่อก่อสร้างแล้วเสร็จเมื่อ พ.ศ. 2454 ได้มีพิธีเปิดและทำบุญอาคารอย่างเป็นทางการในวันที่ 24 มิถุนายน พ.ศ. 2454 โดยมีเจ้าพระยาภาสกรวงศ์ (ม.ร.ว. เปีย มาลากุล) อธิบดีกรมศึกษาธิการในสมัยนั้น เป็นประธานในพิธี

โรงเรียนสวนกุหลาบวิทยาลัยจึงถือเป็นโรงเรียนหลวงแห่งแรกของสยาม และเป็นรากฐานของการศึกษาแบบสมัยใหม่ พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัวทรงเล็งเห็นว่าเพื่อให้ประเทศสยามทันสมัยและรับมือกับแรงกดดันจากลัทธิล่าอาณานิคม จำเป็นต้องพัฒนาประชาชนทั้งเจ้านาย ขุนนาง ข้าราชการ และสามัญชนให้มีความรู้ มีวินัย และเข้าใจวิทยาการสมัยใหม่ การศึกษาที่เคยมีเฉพาะในวัดจึงไม่เพียงพออีกต่อไป

ระบบโรงเรียนใหม่ที่เกิดขึ้นในช่วงนี้ได้วางรากฐานหลักสูตรการเรียนการสอนที่เป็นทางการ มีตารางเรียน มีการสอบ การให้ทุนไปศึกษาต่อต่างประเทศ และสร้างบุคลากรที่มีความสามารถกลับมารับราชการเป็นกำลังสำคัญของประเทศ โรงเรียนสวนกุหลาบวิทยาลัยจึงไม่ใช่เพียงแค่โรงเรียน แต่เป็นสัญลักษณ์ของก้าวแรกของสยามสู่ความทันสมัยผ่านการศึกษา