日本对北方四岛的领有关系在1855年就已得到确认。日俄战争后，日本占领俄国库页岛南部。1945年2月美英苏《雅尔塔协定》指出，“库页岛南部及邻近一切岛屿须交还苏联”，“千岛群岛须交予苏联”。同年8月，苏联派兵占领了国后、择捉、色丹和齿舞四岛。1946年2月，苏联单方面宣布将千岛群岛、南库页岛及齿舞、色丹两岛并入苏联版图，日本朝野对此不予承认。
1956年10月19日苏联和日本在莫斯科签订联合宣言，苏联同意在缔结和平条约后，把北方四岛中的齿舞、色丹两岛交还日本。苏联解体后，俄罗斯继承了苏联的政治遗产。
日方认为，俄方利用日本战败强占四岛是“非法占领”，只有将四岛归还日本后，日本才能与俄签署和平条约。俄方认为其占领四岛是二战的结果，改变这一结果将意味着否定二战。俄方主张，根据苏联和日本1956年签署的《日苏联合宣言》，俄只能以签署和平条约为条件将齿舞、色丹两岛归还日本。由于双方互不让步，两国至今未能签署作为两国关系基础的和平条约。
日本政府自1981年将2月7日定为“北方领土日”以来，每年都举行要求归还北方领土全国大会等相关活动。
2001年，俄总统普京与时任日本首相森喜朗举行会晤后在联合声明中表示，两国将在1956年签署的《苏日联合宣言》等文件基础上，继续就领土问题和签署和平条约进行谈判。根据该宣言，俄罗斯表示在缔结和平条约后准备将齿舞和色丹两岛归还日本。但森喜朗于当年4月下台后，日本政府转变立场，要求俄方归还全部四岛后双方再签署和平条约，而俄方态度也日益强硬。
最近几年，俄罗斯通过制订促进南千岛群岛社会经济发展规划、领导人频频视察当地等手段强化对南千岛群岛的有效控制。除梅德韦杰夫外，俄其他官员也曾到当地视察，这引发了日方的强烈抗议和不满。此外，俄方还向日方提出在保留俄主权基础上两国联合开发四岛的建议，遭到日方断然拒绝。俄罗斯种种强化实际控制权的做法引起日本严重担忧，它担心彻底失去这些岛屿。
在此背景下，日本急于打破双方在领土问题上的僵局。2012年6月，日本首相野田佳彦和俄总统普京就重启领土谈判达成共识。12月新当选的日本首相安倍晋三表示希望与俄解决领土争端问题并签署和平条约。俄准备与日本进行建设性对话。然而，2013年1月，日本内阁官房长官称，安倍政权将坚持对北方四岛归属的原有方针，在此前提下对四岛何时归还日本可以灵活处理。俄称拥有南千岛群岛不容质疑。11月1日，日本外相岸田文雄与到访的俄罗斯外长拉夫罗夫举行会谈，双方同意继续就北方四岛（俄罗斯称南千岛群岛）问题举行谈判，最早将于明年1月底举行副部长级磋商。11月2日，日俄两国外长、防长举行首次“2+2”会晤，就两国安全保障政策和东亚地区形势等问题交换意见。
2014年2月7日，日本首相安倍晋三表示，将谋求最终解决日俄两国存有归属争议的北方四岛（俄罗斯称南千岛群岛）问题，并争取签订日俄和平条约。
