SD Mardi Yuana Depok didirikan pada tahun 1960. Orang yang berjasa dalam merintis pendirian SD Mardi Yuana Depok diantaranya adalah Bapak Markoni (alm), Bapak Tan Sani (alm) dan Bapak Hadi Soeroyo. Awal lokasi sekolah di pasturan Gereja Paulus Depok karena pada saat itu belum ada tempat untuk belajar mengajar.
Beberapa tahun kemudin SD Mardi Yuana mendapat lokasi di jalan Cempaka No. 4 dengan hanya mempunyai 5 ruang kelas dan 1 ruang guru, WC ada 3 dan menggunakan sumber air sumur. Saat itu belum ada listrik, dan lantainya masih berupa bata merah yang ditata rapi. Pada tahun 1973/1974 oleh POMG dipasang listrik dan lantainya dipasang ubin abu-abu. Halaman sekolah masih merupakan tanah yang bergelombang dan ada beberapa pohon kelapa. Pada mulanya murid-muridnya masih sedikit hanya 6 kelas, setiap kelasnya 36 anak. Setelah perumnas dibangun sekitar 1976 mulailah SD Mardi Yuana berkembang pesat.
SD Mardi Yuana Depok mendapat Ijin Operasional dari Kepala Kantor Wilayah Departemen Pendidikan dan Kebudayaan Propinsi Jawa Barat pada tanggal 28 Agustus 1998 dengan nomor 641/I02.1/Kep/OT/1998. Sejak saat inilah SD Mardi Yuana Depok mengawali misi pendidikannya hingga sampai pada saat ini.