中日甲午战争之后，朝鲜半岛这个曾在某种程度上依附于中国的王国受到了日本的统治。1910年日本帝国主义吞并朝鲜半岛，使它成为一个被征服的省份。第二次世界大战即将结束的时候，盟国首脑在商议战后国际安排时也谈到了朝鲜的命运。在1943年11月的开罗会议上，罗斯福、蒋介石和丘吉尔共同签署的《开罗宣言》对朝鲜问题是这样说的：“我三大国轸念朝鲜人民所受之奴役待遇，决定在相当期间，使朝鲜自由独立。” 在紧接着召开的德黑兰会议上，罗斯福又与斯大林讨论了朝鲜的前途问题。斯大林说他看到了《开罗宣言》，并说朝鲜应该获得独立。他还同意在朝鲜能获得完全独立以前，需要有那么一段准备时间，也许需要40年。1945年2月的雅尔塔会议再次谈到朝鲜问题。2月8日罗斯福与斯大林举行会晤，在两人谈过苏联参加对日作战的条件以后，罗斯福提出讨论领土托管问题，并向斯大林提出，在朝鲜人民做好自治的准备之前，“朝鲜要由一个苏联代表、一个美国代表和一个中国代表实行托管”，“托管期愈短愈好”。大概是鉴于英国外交大臣艾登曾拒绝过美国在1944年3月提出的战后对朝鲜半岛和印度支那进行托管的方案，罗斯福认为“没有必要邀请英国参加朝鲜的托管”。斯大林同意托管的方案，但他建议还是应该邀请英国参加托管。于是，战后由中、美、苏、英四国对朝鲜实行临时托管的方案便在雅尔塔会议上确定下来。但会议文件并未具体谈到托管朝鲜的问题，只是在提到对哪些领土将实行托管时说，“这将是有待以后达成协议的事情”。杜鲁门继任美国总统后，于1945年5月底派特使霍普金斯去见斯大林，斯大林表示没有改变四国托管朝鲜的政策。
然而，由于日本宣布无条件投降，引起了远东军事和政治局势的突然变化，于是在四大国尚未就朝鲜的托管问题达成具体协议之前，首先要解决美国和苏联分别在朝鲜半岛对日本军队进行受降以及实行军事占领的问题。这时，便引出了三八线的划分问题。
北纬38度线原本是一条自然的和地理的划线，虽然在朝鲜半岛境内的这条长约300公里的无形的划线将朝鲜半岛分为面积大体相同的两部分，但是其本身并没有任何军事上、政治上和经济上的意义。人为地从军事或政治上利用这条划线，最早是由日本和沙皇俄国提出来的。1896年日俄密谋瓜分朝鲜，日本曾向沙俄秘密提出以三八线为分界线。1904年日俄战争前夕，沙皇也曾做出决定，俄国只控制三八线以北，听凭日本在三八线以南任何地方登陆。但这两次划分均因双方利害冲突而未能实现。
真正使三八线成为从军事角度利用的分界线，是日本在第二次世界大战中对朝鲜驻军的兵力部署进行调整时实现的。1945年2月，日本把部署在朝鲜半岛的日军以三八线为界划分为两部分，北部的军队归关东军指挥，南部的军队为大本营所属。后来，针对苏联可能参加对日作战的情况，日本大本营提出了把全部驻朝日军划归关东军指挥，并由朝鲜总督兼任关东军总司令官的方案。但参谋总长梅津美治郎带着这个方案去见裕仁天皇时，遭到天皇拒绝。 这样，三八线在实际上就为后来苏联在中国东北和朝鲜对日本关东军作战，而美国则在韩国和日本列岛与大本营直接指挥的日军作战提供了客观依据。
然而，三八线事实上被美苏两国加以利用，又有其突然性和偶然性。在苏联出兵对日作战之前，美苏两国没有就各自的作战区域进行明确划分。在1945年7月的波茨坦会议上，美英苏三国军事首脑曾同意，在苏联参加对日作战以后，应当在朝鲜半岛整个地区就美苏两国的空军和海军的作战范围划一条界线。其目的显然在于避免在战争中发生误会而混淆各自承担的责任。至于在地面上的作战或占领区域问题，则根本没有讨论。对于美国来讲，太平洋战争的核心是解决日本问题。因此，尽管当时的三军参谋长马歇尔要求杜鲁门授权麦克阿瑟在战争结束后的短时间内，派一个师在釜山登陆，此外还应占领汉城和清津，但那都是在结束对日作战之后的事。在波茨坦会议上，苏军总参谋长告诉马歇尔，苏联在对日宣战后将进攻朝鲜，并问美军是否可以为配合这次进攻，在朝鲜海岸实施军事行动。马歇尔明确回答，在日本未被摧毁，日本在朝鲜半岛南部的军事力量未被消灭以前，美国不准备对朝鲜半岛实施两栖作战。 据杜鲁门回忆，那是因为当时没有人想到，不管是美国的或者是苏联的地面部队，会在短期内进入朝鲜半岛。杜鲁门确信，国际会议上从来没有讨论过以三八线作为在朝鲜半岛的分界线这个题目。
苏联突然宣布对日作战和与此同时日本天皇决定无条件投降这两件事， 使情况发生了急促变化。当苏联军队向满洲和朝鲜的日本关东军大举进攻时，距离朝鲜最近的美国地面部队还远在600英里以外的冲绳岛。因而日本战争机构的突然崩溃，在朝鲜半岛造成了真空局面。正是在这种紧急的情况下，由美国方面迫不及待地提出了美苏双方分别占领朝鲜半岛和接受日军投降的具体分界线问题。
2007年5月17日，京义线铁路和东海线铁路试运行，这是56年来首次有列车跨越韩朝军事分界线。2007年10月2日，韩国总统卢武铉以步行方式穿过分界线北访。
简单来说：
现在的朝鲜和韩国，在二战前是同属一个国家，历史称呼为 朝鲜。
在二战 日本宣布无条件投降后，美国控制了南段区，前苏联控制了北段区，
在对日本受降的时候发生了争执，各自都说自己的功劳大，都想多占朝鲜日军的受降。
最后决定：在原来的朝鲜国中间 按南北区分画出一条分界线，分成南北两个受降区。
就这样前苏联在北端区接受日军的投降，美国在南端区受降，
后来美国支持南端区独立，成为了韩国。
而那条分界线的地理位置在北纬38度，所以后来就习惯把那条分界线称为：三八线。
