SMK Negeri 2 Tarakan yang dulunya bernama STM Persiapan Negeri Tarakan berdiri berdasarkan Surat Keputusan Kepala Kantor Wilayah Departemen Pendidikan dan Kebudayaan Nomor : HII-571/PW-KT/74 pada tanggal 18 Mei 1974 di Jl. Gunung Belah Tarakan yang masih menumpang di ST Negeri Tarakan dengan jurusan Mesin dan Bangunan menggunakan Kurikulum 1964.
Selanjutnya sejak dikeluarkannya SK Mendikbud nomor 0560/1984 tertanggal 20 Nopember 1984 berubah menjadi STM Negeri Tarakan.
Dengan pembukaan status ini Pemda Tingkat II Kabupaten Bulungan menyerahkan sebidang tanah seluas 50.003 m2 yang berlokasi di Jl. Mulawarman RT 81 Desa Karang Anyar Kecamatan Tarakan Barat yang selanjutnya digunakan untuk membangun STM Negeri Tarakan dengan dana bantuan dari ADB Loan 448 yang dilaksanakan dalam 3 tahap yang telah membuka jurusan baru yaitu Listrik, Otomotip dan Elektronika.
Berdasarkan Keputusan Menteri Pendidikan dan Kebudayaan Nomor 036/O/1996 terjadi perubahan nomenklatur SMKTA menjadi SMK serta organisasi dan tata kerja SMK. Untuk STM Negeri Tarakan berubah menjadi SMK Negeri 2 Tarakan yang sekarang nama lokasinya berubah menjadi Jl. Aki Balak RT 20 Tarakan Barat 77116 dengan Paket Keahlian sesuai spektrum yang baru adalah :Teknik Konstruksi dan Properti, Bisnis konstruki dan property, desain pemodelan dan informasi Bangunan, Teknik Instalasi Pemanfaatan Tenaga Listrik, Teknik Audio Video, Teknik Pemesinan, Teknik Pengelasan, Teknik Kendaraan Ringan, Teknik Alat Berat, Teknik Komputer dan Jaringan dengan menggunakan Kurikulum 2013 mulai tahun pembelajaran 2013/2014 hingga sekarang.
Kepala Sekolah :
Nama : Tjondro Wibowo
Periode : sd 1987
Nama : Drs. Syafruddin Harun Nafsi
Periode : 1987 sd 1992
Nama : Sunarso, B.Sc.
Periode : 1992 – 1997
Nama : Drs. Supandiyono
Periode : 1997 – 2002
Nama : Drs. Sarmin
Periode : 2002 – 2011
Nama : Drs. FX. Sunaryana, MT.
Periode : 2011 – 2019
Nama : Eko Dani Wariyanto,M.Pd
Periode : 2020 – 2023
Nama : Zulfikar Hasyim, S.Pd., M.Pd
Periode : 2023 – sekarang