Pada 3 September 1945, tindakan-tindakan keras pemuda Aceh terhadap Jepang mulai terjadi. Beberapa pemuda Aceh masuk dengan cara menyelundup ke markas militer (tangsi) Jepang di Kraton, sekarang di Jalan Sultan Alaiddin Machmudsyah, Kota Banda Aceh. Mereka merampas beberapa pucuk senjata, kemudian melarikan diri dengan selamat.
Perampasan senjata Jepang juga dilakukan di rumah Gensibu (Pemerintahan Sipil) Jepang di Neuseu, Banda Aceh. Meski sempat terjadi keributan, setelah didesak dan diancam, para pembesar Jepang akhirya menyerahkan senjatanya kepada para pemuda Aceh yang masuk paksa ke rumah mereka.
Sehari kemudian, pada 4 September 1945, gudang-gudang logistik Jepang juga dijarah. Militer Jepang dan para pembesar Gunseibu tidak dapat berbuat apa-apa, karena para penjarah membawa senjata.
Maklumat Komite Nasional Indonesia Aceh sumber
Kisah ini diceritakan oleh Teuku Alibasjah Talsya dalam buku Batu Karang di Tengah Lautan: Perjuangan Kemerdekaan di Aceh (1945-1946). Upaya-upaya menyerang dan merebut persenjataan Jepang gencar dilakukan hampir si seluruh Aceh.
Hal ini dikarenakan, pemuda pejuang kemerdekaan di Aceh tidak ingin senjata-senjata Jepang tersebut dikuasi pasukan Sekutu. Karena sepekan sebelumnya, yakni pada 25 Agustus 1945, pasukan Sekutu melucuti 10.000 tentara Jepang di Sabang setelah Jepang menyerah kalah tanpa syarat akibat peristiwa bom atom Hiroshima dan Nagasaki.
Pelucutan dan perampasan senjata Jepang oleh pemuda pejuang Aceh juga dilakukan untuk membekali pasukan bersenjata Angkatan Pemuda Indonesia (API). Pasalnya, Belanda telah menguasai Sabang atas bantuan Inggris selaku sekutunya. Untuk menghadapi kemungkinan mendaratnya Belanda ke Aceh, maka barisan tentara API diperkuat.
Untuk meredam meluasnya sentiment anti Jepang dan mencegah penjarahan serta perampasan senjata berlanjut, pada 10 September 1945 sekitar 1.000 tentara Jepang dari Sumatera Timur tiba di Banda Aceh. Pasukan Jepang ini ditempatkan di beberapa tangsi dan bivak di tempat-tempat vital dan strategis bagi kepentingan Jepang di Aceh.
Surat Edaran Pembentukan pasukan API di Aceh sumber
Belanda juga mencoba memanfaatkan situasi sentiment anti Jepang di Aceh tersebut. Tapi Belanda menggunakan pengaruh Sekutu, karena Belanda sendiri tidak bisa mendarat ke Aceh pada agresi kedua, sebab sentiment anti Belanda sama besarnya dengan sentiment rakyat Aceh terhadap Jepang.
Pada 16 September 1945, tersiar kabar bahwa tentara Cina yang mewakili Sekutu akan mendarat di Ulee Lheu, Banda Aceh. Cina dinyatakan tidak mendukung Indonesia merdeka, para pengusaha dan perantau Cina juga akan menggunakan pengaruh Sekutu untuk menindas pergerakan pejuang kemerdekaan Indonesia. Berita itu ternyata hanya provokasi Belanda untuk melihat reaksi rakyat Aceh.
Rakyat Aceh memberi jawabannya, ribuan pemuda pejuang kemerdekaan di Aceh memadati garis pantai Ulee Lheu lengkap dengan senjata tempur hasil rampasan dari tentara Jepang. Melihat gelagat seperti itu, Belanda mengurungkan niatnya untuk menyerang Aceh.
Tanda pangkat pasukan bersenjata API Aceh sumber
Pemerintah Cina juga merasa dirugikan atas provokasi Belanda mengatasnamakan tentara Cina tersebut. Untuk menghindari sentiment anti Cina di Aceh, perwakilan Cina di Medan mengirim surat khusus ke Aceh. Isinya menegaskan tiga hal.
Pertama, Cina (Tiongkok) adalah suatu negara yang mencintai perdamaian, tidak ada maksud untuk menjajah Indonesia, ataupun mencampuri urusan politik Indonesia.
Kedua, Pemerintah Tiongkok berdasar atas hak menentukan nasib bangsa sendiri (the right on self determination), maka bersetujui (bersimpati) dengan pergerakan kemerdekaan Indonesia.
Ketiga, Perantau Tionghoa diharapkan kelak akan membantu pergerakan pembinaan negeri Indonesia dalam bidang ekonomi.
Surat tersebut diakhiri dengan kalimat, perantau Tionghoa atas dasar hak menentukan nasib bangsa sendiri, menyokong pergerakan perjuangan kemerdekaan Indonesia. Mereka juga menyatakan sangat risau dengan isu pendaratan tentara Cina di Ulee Lheu, Banda Aceh tersebut.