Osoba, która zaczyna zdanie od "They" (czyli mówi "Oni"), najprawdopodobniej nie zna(ła) ich babci i nie zna tego domu, więc dla niej jest to "jakiś" dom, a nie konkretny. Podobnie osoba, która słucha, też nie zna tego domu. Ogólnie to ten dom jest niezdefiniowany, wiemy tylko, że należał do babci.
A dodatkowo, jak słusznie zauważył Leadership22, skąd niby mamy wiedzieć, że babcia miała tylko jeden dom? A nawet jeśli, to i tak patrz punkt 1 ;).

Co innego, gdybyśmy zaczęli np. "The house they inherited from their grandmother ...". Tu już mówimy o bardzo konkretnym domu. Nawet jeśli w życiu go nie widzieliśmy, to nie ma wątpliwości, że mówimy o tym, konkretnym domu. A jakim? No tym właśnie, tym, który odziedziczyli po babci.