OS มีหน้าที่มากมายในการควบคุมดูแลการทำงานของระบบคอมพิวเตอร์ จึงทำให้โครงสร้างของsoมีความสลับซับซ้อนมากเพื่อความสะดวกในการออกแบบผู้ออกแบบจึงจัดแบ่ง OS ออกเป็นส่วนย่อย ๆ หลาย ๆ ส่วน และให้แต่ละส่วนมีหน้าที่รับผิดชอบการทำงานในแต่ละด้านโดยไม่คาบเกี่ยวกันแต่สัมพันธ์กัน

Kernel เป็นส่วนของ OS ที่อยู่ใกล้กับ Hardware มากที่สุด

 ประกอบด้วยส่วนย่อย ๆ พื้นฐาน 3 ส่วนคือ

1.       ตัวส่ง (Dispatcher) มีหน้าที่จัดการส่งโปรเซสเข้าไปใน CPU

2.       ตัวจัดการ Interrupt มีหน้าที่วิเคราะห์ Interrupt ที่เกิดขึ้นและเลือกรูทีนที่เหมาะสมกับ Interrupt นั้น ๆ

3.       ตัวควบคุมมอนิเตอร์ (Monitor control) มีหน้าที่ควบคุมดูแลการเข้าถึง ตรวจสอบและตรวจจับการทำงานต่าง ๆ ของระบบ

 Memory manager

            มีหน้าที่จัดการเกี่ยวกับหน่วยความจำของระบบทั้งหน่วยความจำหลัก และหน่วยความจำเสมือน

File manager ทำหน้าที่เกี่ยวกับ File มีหน้าที่เก็บไฟล์ลงดิสก์ การหาไฟล์ และการอ่านไฟล์ เป็นต้น

System  manager

        มีหน้าที่จัดสรรทรัพยากรอื่น ๆ ในระบบโดยจะทำงานร่วมกับ Short-term Scheduler เนื่องจากหลังจากที่ Short-term Scheduler ส่งโปรเซสเข้าสู่สถานะรันแล้ว โปรเซสนั้นอาจต้องใช้ทรัพยากรอื่น ๆ ในระบบจึงทำให้การทำงานของ  Short-term Scheduler และ Resource manager ต้องทำงานประสานกัน

หน้าที่ของระบบปฏิบัติการ 
             1. การติดต่อกับผู้ใช้ หรือยูเซอร์อินเทอร์เฟซ (User interface) 
             ผู้ใช้สามารถสั่งให้คอมพิวเตอร์ทำงาน จึงเป็นหน้าที่ของระบบปฏิบัติการใน      เป็นตัวกลาง และเตรียมสภาพแวดล้อมต่าง ๆ ให้กับผู้ใช้ในการสั่งงานคอมพิวเตอร์ หลังจากนั้นจะใช้คำสั่งผ่านทาง System call เพื่อปฏิบัติสิ่งที่ผู้ใช้ต้องการ
ใช้สามารถติดต่อหรือควบคุมการทำงานของเครื่องคอมพิวเตอร์ผ่านทางระบบปฏิบัติการได้ โดยระบบปฏิบัติการจะเครื่องหมายพร้อมต์ (prompt) ออกทางจอภาพเพื่อรอรับคำสั่งจากผู้ใช้โดยตรง ตัวระบบปฏิบัติการจึงเป็นตัวกลางที่ทำหน้าที่เชื่อมโยงระหว่างผู้ใช้กับฮาร์ดแวร์ของเครื่อง นอกจากนี้ผู้ใช้อาจเขียนโปรแกรมเพื่อใช้งานกรณีนี้ผู้ใช้ก็สามารถติดต่อกับระบบปฏิบัติการได้โดยผ่านทาง System Call 
          2. ควบุคมดูแลอุปกรณ์ (Control devices)
             ระบบปฏิบัติการมีหน้าที่ควบคุมอุปกรณ์ต่าง ๆ ให้ทำงานสอดคล้องกับความต้องการ โดยไม่เกิดข้อผิดพลาด เช่นการควบคุมดิสก์ จอภาพ หรือซีดีรอม เป็นต้น ระบบปฏิบัติการจะรับคำสั่งจากผู้ใช้ และเรียกใช้ System call ขึ้นมาทำงาน ให้ได้ผลตามต้องการ ให้ความสะดวกแก่ผู้ใช้ในการใช้งานอุปกรณ์ต่างๆ ได้ง่าย เช่น การเข้าถึงข้อมูลในแฟ้มหรือติดต่อกับอุปกรณ์รับ/แสดงผลข้อมูล จึงทำให้ผู้พัฒนาโปรแกรมไม่จำเป็นต้องเขียนโปรแกรมเพื่อควบคุมตัวขับดิสก์เพราะระบบปฏิบัติการจัดบริการให้มีคำสั่งสำหรับติดต่อกับอุปกรณ์เหล่านี้ได้อย่างง่ายๆเนื่องจากผู้ใช้เครื่องคอมพิวเตอร์ผ่านทางระบบปฏิบัติการ อาจไม่มีความจำเป็นต้องมีความรู้ความเข้าใจถึงหลักการทำงานภายในของเครื่อง ดังนั้น ระบบปฏิบัติการจึงมีหน้าที่ควบคุมการทำงานของโปรแกรม การทำงานของอุปกรณ์ต่างๆ เพื่อให้การทำงานของระบบเป็นไปอย่างถูกต้องและสอดคล้องกัน ระบบปฏิบัติการจึงมีส่วนประกอบของหน้าที่ต่างๆ ที่ควบคุมอุปกรณ์แต่ละชนิดที่มีหน้าที่แตกต่างกันไป โดยผู้ใช้อาจเรียกใช้ผ่านทาง System Call หรือเขียนโปรแกรมขึ้นมาควบคุมอุปกรณ์เหล่านั้น
            3. จัดสรรทรัพยากร หรือรีซอร์สระบบ (Resources management)
          เพราะทรัพยากรของระบบมีจำกัด และมีหลายประเภท ระบบปฏิบัติการต้องบริการให้ผู้ใช้ ได้ใช้ทรัพยากรต่าง ๆ ให้เป็นไปอย่างต่อเนื่อง ตัวอย่างทรัพยากร ที่ระบบปฏิบัติการต้องจัดการ เช่น ซีพียู หน่วยความจำ ซีดีรอม เครื่องพิมพ์ เป็นต้น
ทรัพยากรหลักที่ต้องมีการจัดสรร ได้แก่ หน่วยประมวลผลกลาง หน่วยความจำหลัก อุปกรณ์รับ/แสดงผลข้อมูล และแฟ้มข้อมูล เช่น การจัดลำดับให้บริการใช้เครื่องพิมพ์การสับหลีกงานหลายงานในหน่วยความจำหลักและการจัดสรรหน่วยความจำหลักให้กับโปรแกรมทั้งหลาย ทรัพยากร คือสิ่งที่ซึ่งถูกใช้ไปเพื่อให้โปรแกรมดำเนินไป