同年，他得知侵略朝鮮、強(qiáng)迫朝鮮簽訂失去主權(quán)的《己巳條約》的禍?zhǔn)滓撂俨┪墓魧⒃跐M洲與俄羅斯財政大臣科科夫切夫會談，于是安重根也潛往哈爾濱，裝扮成日本人，潛入火車站。10月26日9時，伊藤博文乘坐的專列抵達(dá)哈爾濱火車站。

同行的還有日本樞密院議長秘書官古谷久綱、宮內(nèi)大臣秘書官森泰二郎、醫(yī)師小山善、貴族院議員室田義文、南滿洲鐵道株式會社理事中村是公、田中清次郎、關(guān)東都督府參事官大內(nèi)丑之助等數(shù)十人。

專列抵達(dá)后，俄國財政大臣科科夫切夫走進(jìn)車內(nèi)，和伊藤博文進(jìn)行了約25分鐘的談話，之后兩人走出車廂，在站臺上檢閱俄國儀仗隊。閱兵完畢之后，伊藤博文走向日本人歡迎隊伍，此時安重根從歡迎人群中沖出來，舉起手槍向伊藤博文射擊。伊藤博文猝不及防，被打倒在地。安重根的手槍內(nèi)有8發(fā)子彈，發(fā)射了7發(fā)，向伊藤博文連開3槍。

第一發(fā)子彈從右上膊中央外面射入，進(jìn)入右胸肋，水平穿通兩肺，留在左肺葉中；第2發(fā)從右關(guān)節(jié)后面射入右胸肋，穿通胸腔，留在左肋上；第3發(fā)子彈從右上膊中央外面擦過，從上腹中央射入，留在腹肌中），另外四發(fā)分別打傷了日本駐哈爾濱總領(lǐng)事川上（右手腕被擊穿，身負(fù)重傷）、森泰二郎和田中清次郎。

醫(yī)師小山善急忙爬了過來解開伊藤的禮服為其療傷，但由于三顆子彈全射進(jìn)了內(nèi)臟部位，憑借隨身攜帶的簡便醫(yī)療器械難以將其取出；再加上安重根使用的是高殺傷力的開花子彈，使得伊藤博文內(nèi)臟出血無法止住。十幾分鐘后，伊藤博文不治身亡，時年68歲。