Q：市役所から、私の自宅建物が市の土地にはみ出しているという指摘を受けました。建物は、祖父が知人から買い受けましたが、取り壊さないといけないのでしょうか。

A：まず、あなたの自宅建物が、市の土地ではなく、市民であるお隣さんの土地にはみ出していると考えてみましょう。
この場合は、私人対私人ですから、民法の時効の規定が適用されます。民法１６２条によれば、所有の意思をもって、平穏に、公然と占有をすれば（おじいさまは、知人から買い受けたとのことですので問題ないでしょう）、おじいさまが購入されてから２０年の占有により、土地を時効取得することができます。
また、おじいさまが、知人の方が、無権利者と知っていた、または、無権利者であることに、普通なら気付くはずなのに気付かなかったといえるような事情がなければ、１０年の占有により、土地を時効取得することができます。
これを踏まえ、対象が、公共の用地であった場合ですが、最高裁は、公共用財産が、実際には公の目的に利用されず、公用が廃止されたと見ていいようなケースについて、「取得時効の成立」の可能性を認めました（最高裁１９７６年１２月２４日判決）。
この判決では、長い間利用されず、本来の形態や機能が損なわれて、占有されても困らないようなものは、公共用財産として維持する理由もない、といった趣旨の指摘がなされ、公図上水路として表示されている国有地について、古くから水田に造り替えられ、水路としての外観を全く喪失しているなどとして、「取得時効の成立」を認めています。
公共の物に安易に時効取得を認めれば、行政の目的を達成できなくなってしまうことと、公の目的に利用されていないにもかかわらず、時効取得を一切認めないとあまりに不合理であることを比較考慮した価値判断があると考えられます。
あなたのおじいさまが、建物を購入した際に、公共の土地とはいえないような状態だったかを確認する必要があるでしょう。そうなっていたのであれば、最初に紹介した私人対私人の例と同じように、市の土地であっても時効取得が認められる余地があり、取り壊しをしなくてもよいと思われます。