]> err.no Git - linux-2.6/commit
Fix incorrect user space access locking in mincore()
authorLinus Torvalds <torvalds@woody.osdl.org>
Sat, 16 Dec 2006 17:44:32 +0000 (09:44 -0800)
committerLinus Torvalds <torvalds@woody.osdl.org>
Sat, 16 Dec 2006 17:44:32 +0000 (09:44 -0800)
commit2f77d107050abc14bc393b34bdb7b91cf670c250
tree6651586fb1b10f60cd6acdb3222bafac9c2d7aa8
parent0221872a3b0aa2fa2f3fa60affcbaebd662c4a90
Fix incorrect user space access locking in mincore()

Doug Chapman noticed that mincore() will doa "copy_to_user()" of the
result while holding the mmap semaphore for reading, which is a big
no-no.  While a recursive read-lock on a semaphore in the case of a page
fault happens to work, we don't actually allow them due to deadlock
schenarios with writers due to fairness issues.

Doug and Marcel sent in a patch to fix it, but I decided to just rewrite
the mess instead - not just fixing the locking problem, but making the
code smaller and (imho) much easier to understand.

Cc: Doug Chapman <dchapman@redhat.com>
Cc: Marcel Holtmann <holtmann@redhat.com>
Cc: Hugh Dickins <hugh@veritas.com>
Cc: Andrew Morton <akpm@osdl.org>
Signed-off-by: Linus Torvalds <torvalds@osdl.org>
mm/mincore.c